25-9 엔비디아와 오픈AI의 10GW 컴퓨팅 파트너십
작성자의 핵심 판단
작성자는 이를 ‘제2의 스타게이트 모먼트’로 평가하며, 다년간 엔비디아 HW/SW를 택하는 대가로서 최대 1000억달러 지분 투자가 나쁘지 않은 거래라고 봤다. 엔비디아 점유율은 대체로 3~5년 유지될 것으로 예상했다.
근거 보기 3
- 원문 구간 1
제2의 스타게이트 모먼트라고 생각합니다. 오픈AI는 차세대 AI 인프라 구축을 위해서 최소 10GW 규모의 엔비디아 시스템을 배치하는 양해각서(LOI)를 체결했습니다. 첫 번째 제품은 2H26에 양산될 VR200 NVL144부터일 것으로 예상하고, 오픈AI의 모델 및 인프라 소프트웨어와 엔비디아의 하드웨어 및 소프트웨어를 공동으로 최적화하기 위한 로드맵을 조율하는 중입니다. ML/System co-design을 훨씬 더 강화하겠다는 의지입니다. 오픈AI는 이로서 Top 1을 굳힐 것으로 예상하고, 엔비디아는 최고의 워크로드 파트너를 가짐으로써 현재의 점유율을 5년 넘게 유지할 것으로 예상합니다. AI Labs만 볼 때 엔비디아를 메인으로 택하는 진영에는 오픈AI, MSL, xAI, 마이크로소프트가 남습니다.
- 원문 구간 2
투자 규모 자체는 크지만 다년간 엔비디아의 HW/SW 자체에 종속되길(Perf/$면에서 Cost 낮추기보다 Perf를 높이길 택함으로써) 택하는 비용으로 $100B 지분 투자는 꽤 나쁘지 않은 딜이라고 생각합니다. 주간전략보고에서 말씀드린 인텔 $5B 투자 및 Enfabrica 인수와 맞물려서 이제 Agent의 시대에 GPU-CPU간 연결 병목을 해결하기 위해 노력 중입니다. GPU의 연산력을 극대화하기 위해서 랙 내, 랙 간, 데이터센터 간, NIC 및 CPU 간, 메모리 등 점점 더 엔비디아의 해자가 오히려 퍼져가는 중입니다. 젠슨황이 경쟁의 축을 추가할 때마다 해자는 시간이 갈수록 더 강해지는 과정입니다. ASIC은 하이퍼스케일러들이 자체의 공급망 확보 및 성숙한 워크로드의 이전을 위해서 계속 쓰일 것으로 예상하므로 엔비디아의 점유율이 소폭 더 강해질 수는 있겠지만 대체로 지금의 점유율이 3~5년간 유지되는 형태로 나올 것 같습니다.
- 원문 구간 3
(2) 미디어텍의 TPU 프로젝트가 몇 분기째 지연되다보니 브로드컴으로 이전되어 올 가능성이 생겼습니다. 다만 이 분야는 이전에 엔비디아와 ASIC에서 전해드린 것처럼 전체의 맥락을 늘 생각하시면서 움직이셔야 합니다. (3) 이정도면 오픈AI의 ASIC 포기 선언과 비슷하기에 상대적으로 엔비디아와 민감한 밸류체인인 버티브가 크게 상승하고, ASIC과 민감한 밸류체인들인 브로드컴, 아스테라랩스, 크레도, 아리스타네트웍스가 하락했습니다. Disaggregated Inference를 설명드리면서도 느끼셨을 것 같지만 엔비디아의 해자가 점점 더 깊고 넓어지는 중입니다. 하드웨어·소프트웨어·네트워킹을 동시에 최적화시킴으로써 끊임없이 'TCO 대비 퍼포먼스'를 높이는 중입니다.
이 자료에서 다룬 사실
오픈AI와 엔비디아가 차세대 AI 인프라를 위해 최소 10GW 규모의 엔비디아 시스템을 배치하는 LOI를 체결했고, 양사는 모델·인프라 소프트웨어와 하드웨어·소프트웨어의 공동 최적화 로드맵을 조율 중이라고 전했다.
근거 보기 1
- 원문 구간 1
제2의 스타게이트 모먼트라고 생각합니다. 오픈AI는 차세대 AI 인프라 구축을 위해서 최소 10GW 규모의 엔비디아 시스템을 배치하는 양해각서(LOI)를 체결했습니다. 첫 번째 제품은 2H26에 양산될 VR200 NVL144부터일 것으로 예상하고, 오픈AI의 모델 및 인프라 소프트웨어와 엔비디아의 하드웨어 및 소프트웨어를 공동으로 최적화하기 위한 로드맵을 조율하는 중입니다. ML/System co-design을 훨씬 더 강화하겠다는 의지입니다. 오픈AI는 이로서 Top 1을 굳힐 것으로 예상하고, 엔비디아는 최고의 워크로드 파트너를 가짐으로써 현재의 점유율을 5년 넘게 유지할 것으로 예상합니다. AI Labs만 볼 때 엔비디아를 메인으로 택하는 진영에는 오픈AI, MSL, xAI, 마이크로소프트가 남습니다.
이 자료에서 다룬 실제 시장 반응
당일 엔비디아는 4.0%, 버티브는 크게 상승했고, 브로드컴·아스테라랩스·크레도·아리스타네트웍스는 하락했다고 적었다.
근거 보기 2
- 원문 구간 1
제2의 스타게이트 모먼트라고 생각합니다. 오픈AI는 차세대 AI 인프라 구축을 위해서 최소 10GW 규모의 엔비디아 시스템을 배치하는 양해각서(LOI)를 체결했습니다. 첫 번째 제품은 2H26에 양산될 VR200 NVL144부터일 것으로 예상하고, 오픈AI의 모델 및 인프라 소프트웨어와 엔비디아의 하드웨어 및 소프트웨어를 공동으로 최적화하기 위한 로드맵을 조율하는 중입니다. ML/System co-design을 훨씬 더 강화하겠다는 의지입니다. 오픈AI는 이로서 Top 1을 굳힐 것으로 예상하고, 엔비디아는 최고의 워크로드 파트너를 가짐으로써 현재의 점유율을 5년 넘게 유지할 것으로 예상합니다. AI Labs만 볼 때 엔비디아를 메인으로 택하는 진영에는 오픈AI, MSL, xAI, 마이크로소프트가 남습니다.
- 원문 구간 2
Scale-up을 준비해야 하고, prefill ASIC을 따로 준비해야 하며, 네트워킹에서도 CPO에 맞는 무언가를 준비해야 하는 구간입니다. 오히려 아스테라랩스나 크레도 입장에서는 하이퍼스케일러들이 자체 스펙을 더 상향해야 하는 상황이라고 봐서, Trainium 3 칩 내에서 Scorpio-X Switch를 택하는 랙의 비중이 더 높아질 거라 생각합니다. (4) 오늘 올랐어도 아직 2022년 11월 말 ChatGPT가 탄생하기 전의 PER보다 낮습니다. 시장은 2026년까지 Agentic AI로 크게 성장할 것으로 예상합니다. LLM이 OS라면, Agent는 일종의 애플리케이션입니다. CY27까지는 엔비디아에게도 폭발적 성장기가 여전히 남아있다고 봐서 매번 반복해드리진 않지만 꾸준한 Top Pick으로 오래 들고 가셔야 하는 기업이라고 생각합니다.
그렇게 판단한 이유
GB200 기준 1GW당 350억달러, VR200·VR300에서는 컴퓨팅·네트워킹을 합쳐 1GW당 500억달러라는 계산과 GPU·CPU·네트워크·메모리까지 연결 병목을 줄이는 통합 최적화 논리를 들었다.
근거 보기 2
- 원문 구간 1
앤트로픽은 Trainium을, 구글은 TPU를 통해 컴퓨팅 상당수를 처리할 예정입니다. 엔비디아는 신규 시스템을 배치할 때마다 순차적으로 오픈AI에게 지분을 투자하여 최대 $100B까지 투자할 예정입니다. 1GW당 $35B인 것은 GB200을 기준으로 할 때이고, VR200 및 VR300으로 넘어가면 컴퓨팅과 네트워킹을 합쳐서 1GW당 $50B입니다. 따라서 대략 오픈AI가 $500B를 투자하면 엔비디아가 $100B에 대해서 오픈AI의 지분을 사는 구조입니다. 원래 시나리오상 '오픈AI가 ASIC을 도입할 경우 향후 5년간 최대 2GW까지를 ASIC으로 구축할 가능성이 있다'고 말씀드렸는데 여기서 잃을 수 있었던 규모가 엔비디아의 입장에서는 대략 $100B정도였습니다.
- 원문 구간 2
투자 규모 자체는 크지만 다년간 엔비디아의 HW/SW 자체에 종속되길(Perf/$면에서 Cost 낮추기보다 Perf를 높이길 택함으로써) 택하는 비용으로 $100B 지분 투자는 꽤 나쁘지 않은 딜이라고 생각합니다. 주간전략보고에서 말씀드린 인텔 $5B 투자 및 Enfabrica 인수와 맞물려서 이제 Agent의 시대에 GPU-CPU간 연결 병목을 해결하기 위해 노력 중입니다. GPU의 연산력을 극대화하기 위해서 랙 내, 랙 간, 데이터센터 간, NIC 및 CPU 간, 메모리 등 점점 더 엔비디아의 해자가 오히려 퍼져가는 중입니다. 젠슨황이 경쟁의 축을 추가할 때마다 해자는 시간이 갈수록 더 강해지는 과정입니다. ASIC은 하이퍼스케일러들이 자체의 공급망 확보 및 성숙한 워크로드의 이전을 위해서 계속 쓰일 것으로 예상하므로 엔비디아의 점유율이 소폭 더 강해질 수는 있겠지만 대체로 지금의 점유율이 3~5년간 유지되는 형태로 나올 것 같습니다.
작성자가 예상한 다음 전개
첫 제품은 2026년 하반기 양산될 VR200 NVL144부터일 것으로 예상했고, 오픈AI는 Top 1을 굳히며 엔비디아는 최고 워크로드 파트너를 확보할 것으로 봤다.
근거 보기 2
- 원문 구간 1
제2의 스타게이트 모먼트라고 생각합니다. 오픈AI는 차세대 AI 인프라 구축을 위해서 최소 10GW 규모의 엔비디아 시스템을 배치하는 양해각서(LOI)를 체결했습니다. 첫 번째 제품은 2H26에 양산될 VR200 NVL144부터일 것으로 예상하고, 오픈AI의 모델 및 인프라 소프트웨어와 엔비디아의 하드웨어 및 소프트웨어를 공동으로 최적화하기 위한 로드맵을 조율하는 중입니다. ML/System co-design을 훨씬 더 강화하겠다는 의지입니다. 오픈AI는 이로서 Top 1을 굳힐 것으로 예상하고, 엔비디아는 최고의 워크로드 파트너를 가짐으로써 현재의 점유율을 5년 넘게 유지할 것으로 예상합니다. AI Labs만 볼 때 엔비디아를 메인으로 택하는 진영에는 오픈AI, MSL, xAI, 마이크로소프트가 남습니다.
- 원문 구간 2
앤트로픽은 Trainium을, 구글은 TPU를 통해 컴퓨팅 상당수를 처리할 예정입니다. 엔비디아는 신규 시스템을 배치할 때마다 순차적으로 오픈AI에게 지분을 투자하여 최대 $100B까지 투자할 예정입니다. 1GW당 $35B인 것은 GB200을 기준으로 할 때이고, VR200 및 VR300으로 넘어가면 컴퓨팅과 네트워킹을 합쳐서 1GW당 $50B입니다. 따라서 대략 오픈AI가 $500B를 투자하면 엔비디아가 $100B에 대해서 오픈AI의 지분을 사는 구조입니다. 원래 시나리오상 '오픈AI가 ASIC을 도입할 경우 향후 5년간 최대 2GW까지를 ASIC으로 구축할 가능성이 있다'고 말씀드렸는데 여기서 잃을 수 있었던 규모가 엔비디아의 입장에서는 대략 $100B정도였습니다.