'빛💡'의 시대 #2 : 구리도 광모듈도 CPO도 다 커진다, AI 인터커넥트의 폭발

pute die 2개를 하나의 GPU 패키지로 만드는 구성입니다. 거리와 속도가 재료를 정한다 개념 : 왜 어떤 구간은 구리이고, 어떤 구간은 빛인가? 연결거리, 요구 속도에 따라 재료가 정해진다 1편에서 정리드렸던 것처럼 광학이 항상 정답인 것은 아닙니다. 짧은 거리에서 필요한 성능을 충족할 수만 있다면 구리가 더 저렴하고 더 단순합니다. '구리가 통하면 구리를 쓴다'는 유지됩니다. ​ 반대로 전송속도가 높아지고 연결거리가 길어지면 전기 신호를 무결하게 유지하는 비용이 커집니다. 신호를 보정하는 부품과 전력이 추가로 요구되고 그러다보니 어느 지점부터는 광학이 더 나은 경제성을 띕니다. 중요한 건 데이터센터 전체에 하나의 인터커넥트가 요구되는 게 아니라 구간마다 다른 답을 선택한다는 것입니다.

​ 보드 안에서는 PCB 트레이스로 연결 같은 보드 안의 칩을 연결하는 가장 기본적인 수단은 PCB 위의 전기 배선입니다. 짧은 거리에서는 SerDes 신호를 별도의 광변환 없이 PCB의 구리 배선으로 보내는 것이 가장 기본적인 전기적 연결 방식입니다. ​ 그런데 PCB의 역할이 꼭 보드에만 있는 건 아닙니다. 엔비디아가 Rubin Ultra부터 도입하려고 하는 Kyber NVL144 랙 구성에서는 Compute Blade(가로로 Tray에 있던 것들을 세로로 꽂는 방식)와 Switch Blade를 PCB 미드플레인(PCB Midplane)에 연결합니다. 서버 내부의 연결을 커다란 중간 기판으로 모으는 방식입니다

는 것 ​ 이 PCB 미드플레인은 M9 CCL 소재 + PTFE계를 합쳐 78층급 PCB를 사용합니다. PCB도 계속 더 높은 사양의 소재와 더 복잡한 구조로 담당하는 영역을 확장해가는 과정입니다. ​ 구리는 신호 보정 수준을 높이면서 거리를 늘려가는 중 구리 케이블도 하나의 제품이 아닙니다. ​ DAC는 별도의 신호 보정 없이 연결하는 방식입니다. ACC는 아날로그 신호 보정 회로(리드라이버)를 더합니다. AEC는 디지털 신호 보정 부품인 리타이머를 붙여 신호를 재정리하는 방식입니다. ​ 골드만삭스는 거리별 분류에

서 DAC는 0.5~3m < ACC 7~15m < AEC 5~30m로 제시하고 있습니다. 절대적으로 딱 이 거리에는 가능하다는 게 아니라 구리가 신호 보정 수준을 높여가면서 더 긴 거리까지 연결할 수 있도록 지원하고 있다는 경향성만 담아두시면 됩니다. 실제 현장에서는 워낙 조합이 다르다보니 딱 일률적으로 설명하는 게 힘들기도 합니다. ​ *데이터센터 내의 광모듈 대역폭 기준 채택 속도 (지금은 대략 800G, 1.6T가 같이 성장하는 구간) ​ 광학은 더 먼거리에서 시작해 더 가까운 곳으로 들어가는 중 광학은 장거리 연결에

서부터 시작했지만, 높은 대역폭이 필요한 짧은 구간으로 점점 침투 중입니다. ​ AOC는 30~100m < DR 광모듈+광섬유는 30~500m < FR 조합은 500m~2km입니다. 동시에 NPO와 CPO는 광변환 위치를 최대한 칩 가까이 옮겨서 단거리에서 고대역폭 연결을 지원하는 방향입니다. ​ PCB는 더 큰 Scale-up을 연결하기 시작하고, 구리는 더 정교한 신호 보정으로 짧은 거리의 Scale-up을 유지하고 있으며, 광학은 고대역폭 처리를 위해 더 짧은 거리로 침투하는 작업이 동시에 일어나고 있습니다. ​ 랙

밖이라고 다 Scale-out은 아니다 또한 Rubin Ultra부터 Scale-up과 Scale-out은 단순히 '랙 안이냐, 랙 밖이냐'를 의미하지 않습니다. VR300 NVL576 구성은 VR300 NVL72 Oberon 랙 8개를 하나의 Global Scale-up Domain으로 묶습니다. 이 8개 랙 사이의 연결은 물리적으로는 랙 밖에 있지만 Scale-up입니다. 랙 내부의 Local Scale-up 연결에서는 구리를 사용하고, 랙 사이의 Global Scale-up에서는 CPO 스위치를 사용하는 구조입니다. 손으

​ GB300 NVL72 랙 한 대의 네트워킹 재료비는 $315K → VR300 NVL576(NVL72 랙 8대 연결)는 $9.35M입니다. 컴퓨팅 유닛당 Scale-out은 16배/Scale-up은 45배 증가하고 전체 컴퓨팅 유닛 단위로 보자면 네트워킹 비용은 29배 증가합니다. 같은 GPU 패키지 72개 기준으로는 약 3.7배​입니다. Scale-out과 Scale-up을 합한 네트워킹 시장 전체로 보자면 CY26 기준 GB300 NVL72의 TAM은 $15B이고, → 기준 CY28 VR300 NVL576의 TAM은 $154B입니다. 대략 9배 커집니다.

골드만삭스는 GB300 NVL72의 인터커넥트 가치를 랙당 $315K로 추정했습니다. Scale-up이 $140K, Scale-out이 $175K입니다. ​ 이것이 VR300 NVL576 (Oberon x 8)로 가면서는 물리적인 GPU 랙 한 개에 대응하는 인터커넥트 부품의 가치가 $1.169M으로 3.7배 규모가 됩니다. 그리고 Oberon 랙 8개를 광학으로 연결하여 Global Scale-up Domain을 만들면 하나의 NVL576 시스템을 구성하니 시스템 전체로는 $9.35M이 됩니다. 이 숫자들은 두 가지로 읽어볼 수 있습니다.

​ 하나의 Scale-up Domain*이 커지고 있습니다. GPU 72개를 연결하던 단위가 GPU 576개를 연결하는 단위로 변하니 하나의 시스템을 만들기 위한 인터커넥트도 많아집니다. 같은 수의 GPU를 연결하는 데 필요한 부품의 가치도 높아지고 있습니다. GPU 패키지** 72개를 기준으로 잡아도 $315K → $1.169M으로 3.7배 커집니다. ​ *랙 간 연결인데 하나는 고대역폭 연결이라 Scale-up 연결이고, 하나는 그보단 낮은 대역폭이니 Scale-out 연결인 상태입니다. 그래서 구분을 위해 ⓐ랙 내의 GPU를 연결해 하나의 랙을 만드는 연결을 Local Scale-u

로 세어보는 광모듈 개수 Goldman Sachs의 계산식 *오른쪽 테이블은 '클릭 후 더블클릭' 하시면 크게 보실 수 있습니다. ​ GPU당 광모듈 개수는 고정되어 있지 않다 GB300이나 VR200이나 같은 1.6T 광모듈을 사용하지만 GB300은 GPU당 광모듈이 1.6T 기준 2~3개이고, VR200은 4~6개입니다. 동일하게 GPU를 72개 넣지만 광모듈 수요는 다릅니다. ​ GPU의 Scale-out 대역폭 GB300 NVL72에는 GPU 패키지가 72개 있고, GPU당 Scale-out 대역폭은 80

0G(0.8Tb/s)입니다. GPU 72개의 총 Scale-out 대역폭 합계는 57.6Tb/s(72개 x 0.8Tb/s = 57.6Tb/s)입니다. 이 대역폭을 네트워크 전체를 오가게끔 세팅해야합니다. 3계층 모델이라고 하면 전체 용량은 345.6Tb/s입니다. 이걸 1.6T 광모듈로 나누면 216개(57.6Tb/s x 3계층 x 2개 끝단 ÷ 1.6Tb/s = 216개)가 나옵니다. ​ VR200 NVL72에서도 GPU 패키지는 72개입니다. 그런데 GPU당 Scale-out 대역폭은 800G → 1.6T로 2배 높아집니다.

신기술의 높은 비용이 내려갈 때까지 기다리는 고객도 있을 수 있습니다. 여러 기술 가운데 어떤 방향이 정착할지 확인하려는 고객도 있습니다. ​ 2편은 숫자를 읽는 방법 1편에서는 빛이 왜 필요한지와 광학이 얼마나 칩 가까이 들어오는지를 살펴봤습니다. 2편은 숫자를 읽는 방법들에 대한 것입니다. 마침 골드만삭스 자료로 많은 부분을 정리했습니다. ​ GPU 수만 보면 부족합니다. GPU당 외부 대역폭을 봐야 합니다. 광모듈 개수만 보면 부족합니다. 모듈의 속도와 가격을 함께 봐야 합니다. CPO 침투율만 보면 부족합니다.

Scale-out의 기존 모듈을 대체하는 것인지 Scale-up에 새로운 광학 연결을 만드는 것인지를 구분해야 합니다. ​ 골드만삭스의 시나리오에서 구리와 플러거블의 절대 시장이 함께 커지는 이유도 여기에 있습니다. 특정 구간에서는 대체가 일어나지만 전체 인터커넥트의 규모와 요구 성능이 동시에 커집니다. ​ 따라서 광학 투자의 질문은 "무엇이 무엇을 없애는가?"서 한 단계 더 나아가서, "새로운 시스템은 어떤 연결을 몇 개 필요로 하고 그 연결의 가치는 어느 공급업체로 이동하는가?"라는 질문이 기술 로드맵을 기업의 매출과 이익으로 연결하는 출발점입니다.

섹터의 성장'률'은 구리 < 광모듈 < CPO이지만, 셋다 절대적으로 성장률이 매우 높습니다. CPO가 생긴다고 광모듈의 시장이 사라질 것이라 가정하는 건, 광학 Primer의 기본 전제였던 광이 구리를 대체하는 것은 아니다의 전제를 다시 갉아먹는 시각입니다. CPO는 일부 플러거블 광모듈을 대체하지만 동시에 Scale-up이라는 새로운 광학시장을 엽니다. 중요한 것은 어느 기술이 다른 기술을 없애느냐보다 전체 연결 대역폭이 얼마나 늘고 그 연결을 구현하는 데 얼마의 부품이 필요한가입니다. ​ 광학 네트워킹의 시대가 온다 하나의 컴퓨팅 시스템을 연결하는 데 들어가는 부품의 총 가치를 따져봅니다.

그런데 네트워크에 사용하는 광모듈의 기준 속도는 여전히 1.6T입니다. 그러면 이를 1.6T 광모듈로 전체 대역폭을 나눌 경우 432개(72개 x 1.6Tb/s x 3계층 x 2개 끝단 ÷ 1.6Tb/s = 432개)가 필요하단 계산이 나옵니다. GPU 1개를 연결하기 위한 외부 대역폭이 2배가 됐기 때문에 광모듈 수요가 2배로 늘어난 것입니다. ​ GPU 출하량만으로 광모듈 수요를 추정하지 않아야 하는 이유입니다. ​ Rubin Ultra의 CPO 침투율 25% 가정 시? VR300 NVL72(Oberon) 구조에서 S

cale-out 연결 용량의 25%를 CPO가 담당한다고 가정합니다. 이 경우 플러거블 광모듈이 담당하는 비중은 75%가 됩니다. 그러면: ​ 432개 x 75% = 플러거블 광모듈 324개 432개 x 25% = CPO 광엔진 108개로 계산됩니다. CPO가 들어오면 같은 랙 구성에서 플러거블 수요는 432개 → 324개로 줄어들지만 이전 세대인 GB300의 216개와 비교하자면 여전히 50% 많은 구성인 셈입니다. ​ 같은 세대 안에서 CPO가 없었을 경우와 비교하면 플러거블 광모듈은 '대체된다'고 볼 수 있습니다.

이전 세대와 비교하면 전체 대역폭이 커졌기 때문에 플러거블 광모듈 수요가 '증가한다'고 볼 수 있습니다. ​ 두 문장이 동시에 참임을 알아야 네트워킹에서 모두가 성장하는 구조를 이해할 수 있습니다. ​ 쉽게 보자면 파이의 크기 문제입니다. ​ GB300 시절 광통신 시장의 파이가 100면, 플러거블이 혼자 100% 먹고 있습니다. 그러다 다음 세대에서는 AI 네트워크 대역폭이 2배가 되면서 파이가 200이 됩니다. 여기서 CPO가 25%를 가져갑니다. ​ 전체 파이는 = 200 CPO = 50 플러거블 = 15

0입니다. 플러거블 입장에서는 시장점유율은 100% → 75%로 떨어졌는데, TAM 자체는 100 → 150으로 50% 증가했습니다. 두 문장이 동시에 참인 구조입니다. *수식으로 하면 '전체 Scale-out 광 대역폭 x (1 - CPO 침투율)'* ​ Rubin Ultra에서는 모듈 수가 적어진다? → 그렇지 않다 Rubin Ultra로 넘어가면 Scale-out 네트워크의 기준 속도가 1.6T에서 3.2T로 올라갑니다. 그래서 GPU 랙 하나만 놓고 플러거블 광모듈의 실물 개수를 보면 오히려 줄어드는 것처럼 보입니다.

​ 골드만삭스의 VR300 NVL576 가정상 랙당 3.2T 플러거블 광모듈은 153개로 GB300 NVL72의 1.6T 모듈 216개보다 적습니다. 여기에는 두 가지 이유가 있습니다. ⓐ먼저 3.2T 모듈 하나가 1.6T 모듈 두 개에 해당하는 대역폭을 처리합니다. ⓑ그리고 Scale-out 연결 29%를 CPO가 담당한다고 가정하면 플러거블의 비중도 71%로 낮아집니다. ​ 하지만 이것만 보고 광모듈 수요가 줄었다고 판단하면 안 됩니다. NVL576은 랙 하나가 아니라 8개 GPU 랙을 하나의 Scale-up 시스템으로

묶는 구조이기 때문입니다. ​ 따라서 NVL576 시스템 전체로 보시면 3.2T 플러거블 1,227개(반올림 이전을 x8)입니다. 여기에 3.2T 모듈 하나를 1.6T 모듈 두 개의 대역폭으로 환산하면 1.6T 환산 기준 2,454개​입니다. ​ 컴퓨팅 유닛 기준으로 GB300 NVL72의 216개와 비교하면 10배 이상 커지는 셈입니다. ​ 또한 Global Scale-up Domain 연결에 CPO가 채택되며 여기에는 VR300 NVL72 랙당 3.2T 광엔진이 324개씩 들어갑니다. NVL576 전체를 묶으면 S

cale-up CPO 광엔진 수요만 2,592개입니다. ​ 정리하자면: 모듈당 속도가 1.6T → 3.2T로 올라가며 같은 대역폭에 필요한 모듈 수는 줄지만, 그만큼 ASP가 증가하기 때문에 광모듈 TAM 자체는 크게 증가할 것으로 예상합니다. 랙 간 Scale-up까지 광학으로 전환되면서 새로운 CPO 광엔진 수요가 생깁니다. ​ *800G, 1.6T 트랜시버의 ⓐEML 구성과 ⓑSiPho+CW Laser BoM 구성을 비교한 테이블입니다. CPO는 무엇을 대체하고 무엇을 못하나 Optical Engine을 Swit

ch ASIC 바로 옆에 붙이는 것 CPO는 광학의 위치를 바꾼다 플러거블 구조에서는 스위치 ASIC과 광모듈이 떨어져 있습니다. 스위치 ASIC에서 나온 전기 신호가 보드를 지나 전면의 광모듈까지 도달한 뒤 빛으로 바뀝니다. ​ CPO는 광엔진을 스위치 ASIC과 함께 패키징해 전기적 경로를 짧게 만듭니다. 수 cm의 전기적 경로가 → mm 수준으로 짧아지면서 전력과 지연시간을 줄이고 DSP와 리타이머에 대한 필요도 크게 줄이는 것입니다. ​ 하지만 광신호를 만들고 받아들이는 기능 자체가 사라지는 건 아닙니다. 광원은

여전히 필요하고, 빛에 데이터를 실어주는 변조기도 필요합니다. 반대편에서 빛을 읽어줄 광검출기도 필요합니다. 광엔진과 광섬유를 연결할 부품도 필요합니다. 광모듈 트랜시버로 만들던 기능들을 ASIC 가까이 옮겨서 통합하는 과정입니다. ​ DSP는 줄지만, Driver/TIA까지 사라지는 건 아니다 CPO에서는 광엔진을 ASIC 바로 옆으로 가져오기 때문에 긴 PCB 전기 경로를 보정하던 광모듈 내부 DSP와 Retimer를 없애거나 크게 단순화할 수 있습니다. 그러나 광신호를 만들어내는 Modulator를 구동하려면 Driver

가 필요하고, Photodiode가 받아들인 미세한 전류를 증폭하려면 TIA도 여전히 필요합니다. CPO Optical Engine 역시 PIC와 EIC로 구성되고 EIC 안에는 이러한 Driver/TIA 기능이 존재합니다. ​ 셈텍, CPO와 FiberEdge 다만 여기서 기능이 남아 있는 것과 매출 기회는 구분해야 합니다. ​ CPO에서도 Driver/TIA 기능은 남지만 이를 브로드컴이나 엔비디아가 EIC에 직접 통합한다면 기존처럼 셈텍의 FiberEdge 칩을 꽂을 소켓은 줄어들 수 있습니다. 셈텍이 CY28 이후의

CPO를 대비해 HieFo를 인수하고 Photonics로 사업 영역을 넓히는 이유도 여기에 있습니다. ​ 셈텍의 현재 데이터센터 포트폴리오는 하나의 기술에만 걸려 있지 않습니다. ACC와 온보드 선형 이퀄라이저에서는 CopperEdge가 채택되어 성장하고, LPO/LRO/NPO에서는 FiberEdge의 TIA/Driver 수요가 이어집니다. 특히 NPO에서는 고밀도 TIA Array와 Photodiode Array를 함께 최적화하는 방향으로 제품이 진화하고 있습니다. 현재 셈텍은 NPO와 관련해 10~15개의 하이퍼스케일러 A

SIC 프로그램에 참여하고 있습니다. NPO 프로그램 관련해서는 셈텍이 기술표준이 된 셈입니다. ​ CPO로 갈수록 기존 FiberEdge 소켓은 줄어들 수 있지만 반대로 새로운 소켓이 생깁니다. CPO에서는 발열과 유지보수 문제 때문에 레이저를 패키지 밖에 두고 CW Light를 공급하는 ELS(External Laser Source)가 중요해집니다. HieFo는 바로 이 CPO Light-source BOM에 진입하기 위한 카드입니다. ​ 나름 중요한 것은 CPO가 본격화될 때까지 HieFo를 검증할 시간이 있다는 점입니

다. Gain Chip은 이미 양산 중이고 High-power CW Laser는 현재 5~6개 Optical Module 업체가 평가하고 있습니다. 당장 1.6T/3.2T 트랜시버 기술 하에서 퀄을 받고 향후 CPO ELS까지 연결할 수 있습니다. ​ Scale-up에 CPO에 들어간다 ≠ GPU 패키지에 광엔진이 통합된다 구조를 보자면, 플러거블 → 스위치와 광엔진을 함께 패키징(CPO) → XPU와 광엔진을 함께 패키징(CPO)하는 흐름입니다. 그리고 심지어 플러거블조차도 앞으로도 계속해서 시장이 성장할 것으로 예상합니다.

엔비디아 Quantum-X CPO 스위치의 BoM 구성입니다. ​ CPO 안에서도 돈이 가는 곳은 나뉜다 엔비디아의 Scale-up CPO 스위치인 Quantum-X 스위치 BoM에서는 광엔진 43%, FAU 5%, ELS 9%입니다. 스위치 ASIC이 16%인 것을 생각해보면 전체적으로 광원 관련 부품가격이 차지하는 비중이 꽤나 높습니다. CPO가 커질 때의 기회는 단일 광원이나 단일 ASIC에만 집중되지 않습니다. 광엔진을 만들고 광섬유와 연결하고 외부 광원을 공급하는 과정에도 가치가 배분된다는 함의가 있습니다. 빛의 재

료와 병목 ⓐCPO의 광원 선택 ⓒ채택 속도 CPO 광원의 선택지 : SiPh + CW Laser, VCSEL, microLED 광원으로 무엇을 택할 것인가를 두고는 여러 가지가 논의되고 있습니다. 기존에 메인으로 논의되던 Scale-up CPO 광원 선택지는 SiPh + CW 레이저(InP) 조합이었는데, 최근 9월 7일 주간전략보고에서 Scale-up 광원으로 루멘텀이 1060nm VCSEL(GaAs)을 고려 중이라고 하여 인상적이었고, microLED 같은 경우는 일부 기업들(Credo, MediaTek)은 좋다고 말하지

만 정작 업계에서는 이미 주류가 안될 가능성이 높다고 사장된 상태임을 전해드린 바 있습니다. ​ 하이퍼스케일러들끼리도 채택 시점이 다르다 일례로 광모듈, CPO, OCS 채택 시점을 보시면 하이퍼스케일러들끼리도 채택 시점이 다 다릅니다. 기업들의 데이터센터 인프라 준비 상태와 요구 스펙에 따라서 다릅니다. ​ 수요 측에서도 채택 속도를 결정하는 변수가 많다 기존 장비의 감가상각이 끝나지 않았다면 빠른 교체는 부담이 됩니다. 새로운 건물과 전력망, 냉각 인프라가 준비되지 않으면 장비가 있어도 배치할 수 없습니다. 초기