[원문 유형] 네이버 프리미엄 콘텐츠 [채널] 올바른 미국주식 by SAPIENS [게시일] 2025.10.03. 오후 4:57 [원문 URL] https://contents.premium.naver.com/sapiens/sapiensasset/contents/251003165710947ic [제목] 엔비디아 CEO 젠슨황 인터뷰 : 오픈AI 10GW 동맹 x 극한의 풀스택 공동 설계 [수집 기준] 승인된 구독 열람권으로 실제 본문을 보존했다. 이미지·첨부는 별도 미디어 원장에 보관하며 시각적 의미 검토 여부를 구분한다. [구독 원문 본문] ​ 안녕하세요 사피엔스입니다. ​ 엔비디아 CEO 젠슨황 인터뷰입니다. 오픈AI 10GW 동맹, 그리고 인텔과의 협력 발표 이후 각 요소에 대해 어떻게 생각하는지를 답한 자료입니다. 이번에도 해석·코멘트가 많습니다. ​ 극한의 ML/System Co-design을 필요로 하는 시대입니다. DeepMind-TPU, Anthropic-Trainium에 이어서 OpenAI-NVIDIA가 추가된 것입니다. 어쩌면 xAI, MSL에서도 비슷한 뉴스가 나올 수 있습니다. ​ 젠슨황이 향후 '연간' AI CAPEX $5T를 말한 이유, 그리고 Hopper → Blackwell에서 NVLink 72로 Scale-up을 이룬 것이 X Factor였는데, 앞으로 무엇이 중요할 지에 대해서 정리해봅니다. 주간전략보고 2025-09-29 주간전략보고 : 투자의 생각 (9월 29일~10월 3일) (바로가기​) AI 사이클 : 전체 흐름 2025-09-26 AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : 승부사 젠슨황 그리고 화웨이의 역습 (바로가기) AI 사이클 : 기업/섹터 2025-09-24 마이크론 3Q25 실적발표 : 클라우드 매출 YoY 214%, 숫자보다 '이유'가 더 중요하다 (바로가기) 2025-09-17 Scale-up 네트워크 이해하기 : 아스테라랩스와 브로드컴, 왜 지금 Scale-up인가? (바로가기) 2025-09-16 골드만삭스 테크 컨퍼런스 : "전례 없는 수요를 보고 있습니다" (바로가기) 2025-09-10 오라클 3Q25 실적발표 : "모두가 다가오는 쓰나미🌊의 규모를 이해하고 있는 건 아닙니다" (바로가기) 2025-08-28 엔비디아 2Q25 실적발표 : Blackwell 12개월치 SOLD OUT, AI CAPEX $3~4T를 말하다 (바로가기) 업계 전문가 인터뷰 2025-09-19 업계 전문가 인터뷰 : 로빈후드, 화려한 부활에 가려진 비하인드 스토리 (바로가기) 2025-09-12 업계 전문가 인터뷰 : 아스테라랩스, 모두가 Scale-up을 필요로 하는 시대의 핵심 기업 (바로가기) 2025-09-02 업계 전문가 인터뷰 : 블룸에너지, 데이터센터로 어디까지 침투할 수 있을까? (바로가기) 투자자문 서비스에 따른 투자 시 원금 손실이 발생할 수 있으며, 투자 손익에 대한 책임은 전적으로 고객에게 귀속됩니다. 또한 과거의 투자수익이 미래의 수익률을 보장하지 않습니다. ​ 신규 구독 전에, 아래 투자자문계약 권유문서의 계약 관련 제반 사항을 반드시 읽으시고 충분히 검토하시기 바랍니다. ​ *투자자문계약 권유문서 : https://naver.me/5ZST47Qf 목차 ​ 엔비디아-오픈AI 파트너십 : 오픈AI의 Extreme co-design을 위한 선택 연간 CAPEX $5T 시대는 어떻게 오나 : GDP의 65%를 증강시키는 일 새로운 X Factor를 찾아라 : Hopper → Blackwell → Rubin → Feynman GPU vs ASIC : 풀스택에서만 나오는 효율화 & Customer Owned Tooling 젠슨 황 Jensen Huang 2025년 9월 26일, 엔비디아 CEO가 보는 현 시점의 AI 엔비디아-오픈AI 파트너십 오픈AI의 Extreme co-design을 위한 선택 *코멘트 → 젠슨황의 인터뷰가 모두다 중요한 것은 아닙니다. 다만, 1년에 4~5개 정도는 젠슨황이 바라보는 관점을 그대로 느낄 수 있어서 매우 중요합니다. 엔비디아는 고객사들의 개발자들과 일선에서 소통하고 있는 기업이다보니, 젠슨황이 '앞으로 이것들이 중요할 것입니다'라고 말하는 것들은 현실화될 가능성이 높기 때문입니다. 그리고 어떻게 지금의 흐름이 생기고 있는지를 잘 알려주는 인터뷰이기도 하기에 SemiAnalysis와 함께 가장 중요하게 꼽는 인터뷰입니다. ​ *코멘트 → 우선, 젠슨황 인터뷰로 넘어가기 전에 을 먼저 보시길 권해드립니다. ​ 브래드 거스너 Brad Gerstner : 최근에 2024년 팟캐스트를 다시 보다보니, 옛날에 말씀하셨던 것 중에 가장 중요했던 게 기억에 남습니다. 당시에 투자자들은 LLM 사전 훈련(pre-training)이 끝나고 나면 CAPEX가 하락할 거라고 말했었죠. 엄청나게 과하게 짓고 있다 그런 말을 했었습니다. 그러나 당신은 그때 추론 수요가 훈련보다 10억 배나 클 거라고 말했었습니다. ​ 젠슨 황 Jensen Huang : 당시에 과소평가했어요. 좀 더 클 겁니다. 저희는 이제 세 가지 스케일링 법칙을 갖고 있습니다. 사전 훈련 스케일링 법칙이 있고, 사후 훈련 스케일링 법칙이 있습니다. 사후 훈련은 AI가 연습하는 것과도 같습니다. 기술을 제대로 익힐 때까지 연습하는 겁니다. 추론하면서 여러 가지 다른 방법들을 시도해보는 겁니다. 이제 훈련과 추론에 강화학습이 접목됐는데 이걸 사후 훈련이라고 부릅니다. 그리고 세 번째는 오래 생각하는 추론입니다. 이전엔 one-shot 추론이었죠. 이제는 LLM이 대답하기 전에 생각하고 있습니다. 더 오래 생각할수록 더 좋은 퀄리티의 답변을 얻을 수 있습니다. 생각하는 동안에는 각종 자료를 보고, 팩트체크를 하고, 새로운 사실을 배우고, 다시 생각하고, 더 배운 다음 답변을 생성합니다. 이게 세 가지 스케일링 법칙입니다. ​ *코멘트 → 수요 측면의 두 가지 지수함수적인 성장을 요약하면: (A) QPS(초당 요청 수) 증가 x (B) 요청당 토큰 사용량 증가 (CoT, Tool/RAG, Agent) → 초당 토큰 사용량이 폭증하게 된다입니다. ​ *코멘트 → ⓐ사전훈련(Pre-training)은 대규모 데이터셋을 통해서 모델을 처음 학습시키는 과정입니다. 데이터와 파라미터 규모가 커질수록 성능이 예측 가능한 패턴으로 증가한다는 스케일링 법칙입니다. ⓑ사후훈련(Post-training)은 RLHF나 Self-play, Self-improvement 같은 영역입니다. 모델이 이미 사전 훈련을 끝냈지만 그 상태에서 추가로 연습을 하면서 더 정교해지고 발전하는 과정입니다. 이 과정에서도 엄청난 GPU 컴퓨팅이 쓰입니다. 테슬라의 FSD Training 클러스터가 줄어들지 않는 것처럼 모델의 학습에 끝은 없습니다. ⓒ추론시간(Test-time compute)에 따른 스케일링 법칙은 과거에는 질문을 하면 즉시 답을 하는 구조였는데, 이제는 모델이 내부적으로 여러 단계를 거치면서 Chain-of-Thought 형태로 추론하는 과정을 거칩니다. 답변 품질을 높이기 위해서 추론 자체가 훨씬 더 compute-intensive하게 바뀌고 있습니다. ​ 왼쪽 : 스케일링 법칙 차트 → 컴퓨팅, 데이터셋 규모, 매개변수 크기를 키울 수록 성능 개선 오른쪽 : 창발성 그래프 → '특정 수준 이상의 규모'가 되면 이전까지 없었던 새로운 기능이 열린다 ​ *코멘트 → 2020년 오픈AI가 발표한 스케일링 법칙 , 2022년 친칠라 스케일링 법칙, LLM의 크기를 키웠을 때 창발성이 생기는 법칙 이 이끄는 시대입니다. 모두 LLM 시대의 시작을 알린 논문들입니다. ⓐ컴퓨팅이나 데이터셋의 크기 혹은 매개변수의 크기를 키우거나 ⓑ매개변수의 크기에 맞게 데이터셋의 크기를 키우는 쪽으로 갈 경우 성능이 좋아지며 ⓒ일정수준 이상으로 가면 A라는 기능이 1에서 10으로 좋아지는 것도 있지만, B라는 기능이 '새롭게' 생기더라는 것이 핵심입니다. 이들을 선생처럼 써서 Knowledge Distillation 을 하며 발전해온 것이 소형모델의 역사입니다. 모델을 더 작게 만들기 위해서는 더 큰 모델이 필요합니다. ​ 브래드 거스너 : 작년에 그걸 미리 말씀하셨었지만, 추론에 대한 자신감이 그래도 어느 순간 더 오르셨을 것 같은데 언제 자신감이 더 생기셨나요? ​ 젠슨 황 Jensen Huang : 저는 올해 더 자신이 생겼습니다. 에이전트를 보면 이제 더 이상 AI는 LLM에서 멈추지 않고 도구를 사용하고, 동시에 여러 것을 실행하고, 멀티모달로 처리하고, 비디오를 생성하고 있습니다. ​ 브래드 거스너 : 며칠 전에 오픈AI와 스타게이트 프로젝트에 대한 협력을 발표하셨습니다. 오픈AI가 스타게이트 10GW 데이터센터를 짓는 과정에서 엔비디아를 컴퓨팅 파트너로 택하고, 엔비디아는 오픈AI에 $100B를 투자한다는 내용이었죠. 이 파트너십에 대해서 엔비디아 입장에서 어떤 의미인지 한 번 설명해주시겠어요? ​ 젠슨 황 Jensen Huang : 제 생각에 오픈AI는 다음 Multi-Trillion Dollar 하이퍼스케일러 기업이 될 가능성이 높습니다. 그들은 소비자와 기업들을 위한 서비스를 제공할 것이고, 만약 그렇다면 그들이 그렇게 되기 전에 투자할 기회는 엔비디아가 상상할 수 있는 가장 현명한 투자처 중 하나일 겁니다. 저희는 어디론가 투자할 수 있는 현금을 많이 갖고 있는데, 오픈AI는 훌륭한 투자 기회를 저희한테 줬고, 저희는 반드시 투자해야 할 의무가 없는 상태로 투자할 기회를 받았으니 굉장한 일입니다. ​ 순서대로 오픈AI와의 협력에 대해서 정리해봅시다. 저희는 여러 프로젝트에서 오픈AI와 협력하고 있습니다. 첫 번째 프로젝트는 마이크로소프트 Azure 클라우드를 구축하는 일입니다. 파트너십은 매우 성공적으로 진행되고 있습니다. 앞으로 몇 년 동안 구축해야 할 것이 많고, 수천억 달러의 데이터센터가 남아있습니다. 두 번째는 오라클 클라우드 구축입니다. 5~7GW 정도가 구축될 것 같습니다. 오라클, 오픈AI, 소프트뱅크가 협력하여 함께 구축 중입니다. 이미 계약된 프로젝트입니다. 그리고 세 번째는 코어위브입니다. 오픈AI가 관리하는 하이퍼스케일러들입니다. ​ *코멘트 → 오픈AI에 대해서는 <오픈AI 기업분석 : 빅테크를 위협하는 새로운 플랫폼으로서 ChatGPT의 가치를 생각해보다>를 보시면 도움이 되실 것 같습니다. AI 업계에 대해서 타이트하게 보다보면, 개별 제품에서 일부 구글이 앞서거나 한 바는 있지만 오픈AI가 선두주자 지위를 뺏긴 적은 아직까지 없었습니다. ​ *코멘트 → 첫 번째로, 오픈AI 밸류에이션의 핵심은 ChatGPT에 있습니다. 매출의 75%가 ChatGPT를 통해 나오고 있습니다. 이것이 엄청난 플랫폼이라는 것에 대해 저평가받기 쉬운 환경이라고 생각합니다. 마치 아직 모델만 있는 회사와 같이 취급하게 된다는 점입니다. 오픈AI는 유료 사용자 3%를 제외한 나머지 무료 사용자 97%를 위한 가격 정책, 제품 출시 일정을 짜야 합니다. 그럼에도 불구하고 API 서비스 위주인 앤트로픽, 최근 발군이지만 아직 메인 제품군은 빈약한 구글, 모델만 구축하고 있는 xAI에 비해서도 오픈AI가 가장 앞서나가고 있다는 건 엄청난 경쟁역량을 유지하고 있는 것이구나가 좀 더 객관적인 시각입니다. 주간 활성 사용자 수 8억 명에게 월 $5씩 수익화할 수 있다면 매월 $4B의 매출을, 매년 $48B의 매출을 거둘 수 있는 큰 잠재력을 가진 제품입니다. ChatGPT Plus, Enterprise, Pro를 통해서 그리고 광고와 쇼핑을 통해서 어떻게 ChatGPT를 녹일 것이냐가 중요합니다. 두 번째로, 핵심 기술과 연구의 방향성은 아직 오픈AI가 주도하고 있습니다. ​ *코멘트 → 오픈AI의 핵심 기술과 연구의 방향성은 여전히 시장을 이끄는 중입니다. 첫 번째, 2024년 9월 Strawberry를 통해서 Test-time compute를 가장 먼저 발견하여 o1-preview에 접목했습니다. 이후 2024년 12월 Gemini 2.0 Flash Thinking(preview)이 출시되고, 2025년 1월에 DeepSeek-R1이 출시된 흐름입니다. 딥시크는 정렬(alignment: 모델이 문제를 일으키지 않는지를 확인하는 과정)을 포기했기 때문에 몇 개월치 격차를 줄였습니다. 두 번째, 오픈AI가 2024년 12월에 병렬식 Test-time compute 구조인 o1-pro를 가장 먼저 발표한 것도 인상적입니다. 이후에 다시 이 구조가 2025년 5월 20일에 Gemini 2.5 Deep Think에 채택되고, 7월 9일에 Grok 4 Heavy도 마찬가지였습니다. 이번 GPT-5 Pro에서 지능의 돌파를 이룬 방법도 이부분이었습니다. GPT-5 Pro의 지능수준이나, GPT-5가 아직 H100/H200으로 훈련된 모델이었음을 생각해보면 스케일링 법칙 자체에는 문제가 없습니다. 세 번째, GPT-5의 핵심은 추론비용의 절감에 있습니다. SOTA 모델을 엄청나게 저렴한 가격에 무료 사용자들에게까지 배포한 데 있습니다. 주간 활성 사용자 8억 명에게 사용되고 유료 사용자가 3%(2025년 4월 2,000만 명)임을 감안해보면, 7억 8천만 명에게 가장 높은 수준의 지능을 가진 모델을 서비스한 사례입니다. DeepSeek-R1에서 것처럼 달러당 더 많은 지능을 얻기 시작했습니다. 총량으로 볼 때 토큰 처리량이 다시 가파르게 증가하고 있습니다. Reasoning을 사용하는 사용자의 수가 크게 늘고 있기 때문입니다. Reasoning 모델을 사용하는 사용자의 비율이 무료 사용자에서는 0~1%에서 → 7%로 증가했고, ChatGPT Plus 구독자의 경우에는 7% → 24%로 증가했습니다. ​ *코멘트 → 오픈AI가 컴퓨팅을 얻는 방법이 기존에는 세 갈래였습니다. ⓐ마이크로소프트 Azure ⓑ오라클 OCI ⓒ코어위브입니다. ⓐ마이크로소프트가 오픈AI의 추론 수요 대부분을 처리하고 있습니다. 또한 Azure OpenAI API를 통해서 개별 기업들이 오픈AI의 API를 자사의 LLM에 녹이기 쉽도록 돕고 있습니다. Win-Win입니다. ⓑ오라클과는 GPT-6, 7, 8, 9를 위한 사전훈련 및 사후훈련 그리고 추론을 위한 컴퓨팅까지 모두 장기 공급계약을 맺고 있습니다. 마이크로소프트는 상대적으로 가장 ROI가 높은 워크로드만 수익화하길 원하다보니 보다 공격적인 CAPEX를 약속한 오라클과 코어위브가 계약을 따내는 비중이 꽤 높아졌습니다. 마이크로소프트는 <마이크로소프트 2Q25 실적발표>, 오라클은 <오라클 3Q25 실적발표>, 코어위브는 <주간전략보고 중 코어위브 코멘트>를 참고해주세요. ​ 젠슨 황 Jensen Huang : 그래서 질문은, 이 파트너십의 의미가 무엇이냐고 물으셨습니다. 새로운 파트너십은 오픈AI와 협력하여 오픈AI가 처음으로 자체 구축한 AI 인프라를 갖는 것입니다. 칩 레벨, 소프트웨어 레벨, 시스템 레벨, AI Factory 레벨에서 오픈AI와 완전히 협력함으로써 그들에게 완전히 최적화된 인프라를 만드는 것입니다. 이 파트너십은 꽤나 오래 영향을 줄 겁니다. 그렇게 오픈AI가 겪고 있는 컴퓨팅 부족을 해결할 겁니다. ​ 오픈AI는 두 가지 면에서 지수함수적인 수요를 겪고 있습니다. 첫 번째 지수함수적 증가의 축은 고객 수가 기하급수적으로 증가하고 있다는 점입니다. AI가 더 좋아지고, 사용 사례가 늘어나고, 거의 모든 애플리케이션이 오픈AI와 연결되어 있기 때문입니다. 사용량의 지수적 증가를 겪고 있습니다. 두 번째는 모든 컴퓨팅의 증가입니다. 단발성 추론이 아니라 답변하기 전에 생각하는 과정으로 인해 계속해서 사용량이 증가하는 추세입니다. ​ 이 두 가지의 지수적 증가가 오픈AI의 컴퓨팅 요구사항을 가중시키고 있으며, 그 결과 이미 다양한 고객사와 많은 프로젝트를 구축하기로 되어 있던 상황이었습니다. 마지막 파트너십은 이미 오픈AI가 발표한 모든 것, 그리고 우리가 함께 작업 중인 프로젝트적인 노력 위에 더해지는 것입니다. ​ 브래드 거스너 : 오픈AI가 데이터센터를 자체 구축하도록 하는 과정이군요. 원래는 마이크로소프트에 아웃소싱해서 데이터센터를 구축해왔는데, 이제 풀스택 공장을 스스로 구축하고 싶어하는 과정이군요. ​ 젠슨 황 Jensen Huang : 오픈AI는 본질적으로 일론과 xAI가 했던 것처럼 스스로의 데이터센터를 직접 구축하고 싶어하고 있습니다. ​ *코멘트 → 오픈AI와 엔비디아가 맺은 파트너십은 단순히 'GPU를 더 사서 데이터센터를 더 만들겠다'가 아닙니다. 칩(아키텍처, HBM, 패키징) → 시스템(NVLink, NVSwitch, 랙/팟 설계) → 소프트웨어(CUDA, NCCL, Triton, 스케쥴러) → AI Factory(데이터, 학습, 평가)까지를 공동 설계하겠다는 것입니다. 목적은 성능, 전력, 비용을 동시에 최적화하여 TCO 대비 성능을 극한까지 끌어올리기 위함입니다. 오픈AI의 워크로드들(Reasoning, Agent, Tool, Search, RL, Training)에 맞게 맞춤형으로 모든 시스템을 짜면 범용 클라우드에 비해서 같은 전력 기준 훨씬 더 많은 초당 토큰(TPS)을 뽑아내고, 초당 쿼리 수(QPS)를 훨씬 더 많이 처리할 수 있기 때문입니다. ​ *코멘트 → 오픈AI 입장에서는 이것이 브로드컴에게 ASIC을 맡기고 최적화하는 것보다 엔비디아를 통해 시스템을 효율화시키는 게 'TCO 대비 성능'면에서 더 우수한 계획이었음을 의미합니다. 오픈AI 입장에서도 오픈AI 내에 HW/SW 엔지니어는 한정적이니 앞으로 ASIC 프로젝트보다는 GPU를 커스터마이징하는 쪽에 더 포커싱을 두고, 다년간 여러 세대에 걸친 Lock-in 효과를 감수하겠다는 전략입니다. 마치 사이클 선수가 클릿슈즈를 신는 것과도 비슷한 효과입니다. 이 모든 것을 정리해보자면, '내가(OpenAI) 앞으로 이만큼 10GW만큼 살 건데, 그러니까 나한테 좀 더 커스터마이징해서 Perf/$를 더 끌어올려줘. 대신 내가 잘되면 너도 이득을 봐야하니 너(NVDA)가 원하면 지분투자도 20%까지는 열어줄게'라고 말한 것과도 같습니다. 차세대 GPU/랙 아키텍처, 냉각/전력 밀도, 네트워크 패브릭 등을 여러 세대에 걸쳐 공동 계획하게 되므로 오픈AI 입장에서는 엔비디아의 칩을 구매하는 것이지만 마치 ASIC을 쓰듯이 성능을 더 끌어올릴 수 있게 되는 효과입니다. 엔비디아-오픈AI 10GW 프로젝트는 MSFT, ORCL, CRWV 딜과 별개로 '더해지는' 계약 ​ And so these two exponentials are compounding their compute requirements, and so we, we got to build out these all these different projects. And so this last one is an additive on top of everything that they've already announced​, all the things that we're already working on with them. It's additive on top of that, and uh, it's going to support the, you know, this incredible exponential growth. 2025-09-26, Bg2Pod 팟캐스트 中 젠슨 황의 오픈AI 10GW 프로젝트 발언 브래드 거스너 : 진짜 풀스택을 구축하는 거군요. 하이퍼스케일러가 되는 거네요. 직접 사용하지 않으면 다른 기업에게 팔 수도 있는 게 되는 겁니다. 아마 대부분을 직접 사용하겠지만 남들에게도 팔 수 있는 위치에 놓이는 거죠. AWS, GCP, Azure와 매우 흡사한 기업이 되는 거군요. 그게 당신이 말하려는 바가 맞나요 ​ 젠슨 황 Jensen Huang : 네, 제 생각에는 아마 오픈AI가 직접 사용할 가능성이 높고, xAI 사례를 보더라도 그럴 가능성이 높습니다. 그러나 핵심은 오픈AI가 엔비디아와 직접적으로 업무 관계를 맺고, 직접적인 구매 관계를 맺고 싶어한다는 것입니다. 메타의 저커버그와 저희가 맺은 관계처럼 말이죠. 구글, 마이크로소프트와의 계약도 모두 직접적으로 맺어져있죠. 오픈AI가 이제 충분한 규모로 성장했고 이제 엔비디아와 직접적인 계약 관계를 맺기 시작했다는 게 달라진 점입니다. 이런 일들은 사티아 나델라, 래리 엘리슨도 모두 알고 있죠. 모두들 매우 지지하고 있습니다. ​ *코멘트 → 오픈AI CFO가 8월 20일에 "향후 AI 시대의 AWS 같은 역할을 할 수도 있다"고 말한 바 있습니다. 물론 CFO는 이 말과 함꼐 '아직 적극적으로 검토하고 있지는 않다'고 말했지만 진짜 적극적으로 검토하지 않는 수준이면 원래 언론 앞에서 이런 발표를 하지 않습니다. 기존의 컴퓨팅 파트너사들인 Azure, OCI, CoreWeave와 별개로 해당 프로젝트를 꽤나 진지하게 검토하고 있다는 의미로 읽혔습니다. 아마존이 자체적으로 이커머스 전환을 위해서 컴퓨팅을 구매하다가, 일부 남는 것을 수익화하고 자원을 유동적으로 사용하기 위해 AWS로 클라우드 컴퓨팅을 만들었던 것과 같은 로직입니다. 오픈AI가 대부분의 컴퓨팅을 사용하겠지만 그중 일부를 AWS, Azure, GCP, OCI가 하는 것처럼 서비스할 수도 있는 사업자가 되겠다는 것입니다. ​ (시점은 재구성, ~중략~) 브래드 거스너 : 어제 CNBC를 켰더니 엔비디아가 오픈AI에게 투자한 것을 두고, 엔비디아~오픈AI~오라클 사이를 두고 서로의 자본으로 매출을 올려주는 것이니 버블이라더군요. 블룸버그에서도 비슷한 말을 했습니다. 고객 수요가 아닌 금융 공학으로 뒷받침 된다는 것이었습니다. 모두가 언급하는 대표적인 사례는 25년 전 닷컴 버블 당시의 Cisco-Nortel 사례였습니다. 그들이 무엇을 잘못 생각하고 있는 건지 한 번 상기시켜주세요. ​ *코멘트 → 원래는 팟캐스트 진행상 한참 뒤에 나오는 얘기인데, 오픈AI와 관련된 내용이므로 앞으로 끌어왔습니다. ​ *코멘트 → 엔비디아-오픈AI-오라클간 딜에 대한 생각은 이렇습니다. ​ 첫 번째로, 10GW의 데이터센터에 얼마가 들어가는지 잘 모르시는 데에서 오해가 생기는 것 같습니다. 오픈AI 발표의 본문에 1GW마다 $10B씩 지분을 넣을 수 있는 구조라고 되어 있는데, 1GW 데이터센터를 온라인하기 위한 CAPEX는 $50B~60B이며, 그 안에 엔비디아의 Compute & Network가 들어간다면 $40B정도를 인식할 수 있습니다. 전력당 컴퓨팅은 점점 더 좋아지는 추세임을 가정하면 GB200 NVL72 기준 1GW당 $35B이고, 2026년의 VR200 NVL144부터는 1GW당 $40B이 들어갑니다. 2028년의 Feynman정도가 되면 1GW당 $50B정도일 겁니다. 두 번째, 컴퓨팅 투자의 대가로 지분을 일부 넣는 것에 대해서는 투자자들이 잘 모르다보니 오해가 생겼을 뿐입니다. 이미 많이 일어난 일들입니다. Azure-OpenAI 딜이 그랬고, AWS-Anthropic, AWS-Credo, AWS-Astera Labs, GCP-Fluidstack, GCP-Cipher Mining, NVDA-CoreWeave, NVDA-Nebius, Walmart-Symbotics, Salesforce Ventures, AWS Ventures, IBM Ventures 등의 딜들이 그렇습니다. 엔비디아에서도 Sell and Leaseback만 있는 건 아니고, AWS는 하드웨어 파트너사들에게 R&D를 아웃소싱하고 대신 AWS의 네트워킹에 맞게 커스터마이징하여 납품하도록 하는 구조를 유지 중입니다. 세 번째, 이 파트너십을 통해 오픈AI는 프론티어 AI 연구소 내 확실한 1~2위 입지를 다질 것으로 예상됩니다. 오픈AI 입장에서는 컴퓨팅면에서 구글과 경쟁은 계속되겠지만 적어도 초지능으로 가기까지 충분한 컴퓨팅을 얻은 것은 맞습니다. 구글 딥마인드만 ML/System co-design을 통해서 효율성을 얻던 시대에서, 최근 앤트로픽이 AWS와 결합으로 효율성을 얻은 것처럼, 오픈AI도 엔비디아와의 결합으로 효율성을 얻게 됐습니다. 네 번째, 엔비디아 입장에서는 최고의 워크로드 파트너를 확보함으로써 향후 5년 이상 현재의 압도적 점유율을 방어할 가능성이 큽니다. 현재 엔비디아 진영에 속한 주요 AI 연구소는 오픈AI, MSL, xAI입니다. 앤트로픽과 구글도 엔비디아 시스템을 꽤 구매하긴 하지만 메이저 워크로드는 꾸준히 자체 칩을 통해서 처리할 예정입니다. ​ 젠슨 황 Jensen Huang : 10GW는 대략 $400B정도입니다. $400B 대부분은 오픈AI가 자체적으로 충당해야 합니다. 그들의 매출, 그리고 그들이 조달할 수 있는 주식과 부채를 통해서 조달해야 합니다. 그들이 조달하는 값에는 그들이 유지할 수 있는 매출에 대한 확신과 관련이 있습니다. 투자자들은 이미 이런 요소들에 대해서 다 평가하고 자금을 빌려줄 것이기 때문입니다. ​ 10GW를 구축할 자금을 가져오는 것은 오픈AI의 몫이고 저희의 몫이 아닙니다. 물론 오픈AI가 계속해서 성장하기 위해서 저희는 매우 긴밀하게 지내지만 투자 측면에는 아무것도 엮인 게 없습니다. 저희가 꼭 투자를 해야 하는 것도 아니고 어떤 것도 묶여있지 않습니다. '투자할 기회'를 받은 것입니다. 다음 Multi-Trillion Dollar 하이퍼스케일러가 될 것인데 누가 투자하고 싶지 않겠어요? 제가 하는 유일한 후회는 오픈AI 초기에 투자할 수 있었는데 그렇지 못했다는 겁니다. 엔비디아가 자금이 너무 부족해서 충분히 투자하지 못했었죠. ​ 브래드 거스너 : 그리고 사람들이 잘 모르는 게, 오픈AI측에서도 Vera Rubin 칩이 충분히 좋은 칩이 아니라면 다른 칩을 가져와서 10GW 데이터센터에 넣을 수 있다는 점입니다. 엔비디아의 칩을 사용할 의무는 없고, 엔비디아도 오픈AI가 반드시 지분을 투자할 의무는 없는 상태의 계약이죠. ​ 젠슨 황 Jensen Huang : 그리고 제가 또 하나 말씀드리고 싶은 건, 저희는 이미 몇몇 훌륭한 기업에 투자했습니다. xAI와 코어위브에 투자했습니다. 오픈AI도 그런 딜이었습니다. 연간 CAPEX $5T 시대는 어떻게 오나 GDP의 65%를 증강시키는 일 *코멘트 → 이전 자료에서도 전해드리긴 했는데, 저희는 BIG 6 하이퍼스케일러 CAPEX가 $500B이고, BIG 6를 제외하고 나머지 소버린 클라우드와 엔터프라이즈AI 및 Tier 2 CSP 규모들을 합쳐서 $100라고 가정할 경우, 2026년 CAPEX 시장은 $600B로 보고 있습니다. 이중 65%정도가 컴퓨팅과 네트워킹에 쓰이는 것을 생각해보면 AI 가속기의 내년 시장규모는 $390B입니다. 그중 엔비디아가 80~85%를 가져가고 있음을 감안하면 CY26 매출에 대해서 $310~330B라는 러프한 추정치가 나옵니다. 저희의 가정은 이것과 거의 비슷한 규모를 가정하되 NVL72 랙 mix가 더 늘어날 경우 상향 가능한 룸은 열려 있습니다. 만약 추정치 변경이 있다면 내년 초입쯤에 실제 전반적인 AI 침투속도가 어떻게 바뀌는지 그리고 Agentic AI or Physical AI 침투속도가 얼마나 빠른지에 따라서 바뀔 수도 있겠습니다. 다만, 원래 중간중간 추정치를 자잘하게 바꾸는 편은 아닙니다. ​ 브래드 거스너 : 제가 아직 잘 받아들이지 못하는 불가사의한 점은, 오라클이 $300B 계약을 맺고, Colossus가 수십만 개의 칩을 구매하고, 소버린 클라우드 프로젝트들이 진행되고, 하이퍼스케일러들이 컴퓨팅을 구매하고, 이제 샘 올트먼은 수조 달러의 규모에 대해서 말하고 있습니다. 그러나 아직 엔비디아를 담당하는 애널리스트들 25명은 컨센서스 추정치를 볼 때 2027년부터 성장이 급격히 정체되기 시작하여 2030년까지 8% 성장할 것으로 예상하고 있습니다. 엔비디아의 미래를 전망하는 게 직업인 사람 25명이 내놓은 추정인데요. ​ 젠슨 황 Jensen Huang : 저희는 사실 그것에 대해서 매우 편하게 느끼고 있습니다. 덕분에 매 분기 컨센서스를 상회하는 데 아무런 문제가 없다고 느낍니다. 저희가 보는 세 가지 포인트를 말씀드리겠습니다. 이 세 가지 포인트는 여러분이 앞으로 엔비디아를 더 편안하게 생각하는 데 도움이 될 겁니다. ​ 첫 번째 포인트는 물리학 법칙에 대한 겁니다. 이게 가장 중요한 포인트인데, 범용 컴퓨팅은 끝났고 미래는 가속 컴퓨팅과 AI 컴퓨팅이 쓰인다는 겁니다. 이것이 첫 번째 포인트입니다. 이걸 받아들인다면 세상에 얼마나 많은 규모의 범용 컴퓨팅이 있었고 그걸 이제 가속컴퓨팅으로 바꿔야 한다는 걸 뜻합니다. 인텔과의 파트너십은 범용 컴퓨팅이 가속 컴퓨팅과 연결되어 새로운 기회를 찾아야 한다는 것을 인식한 것에서부터 시작됐습니다. ​ *코멘트 → CPU 중심의 범용컴퓨팅은 이미 한계에 근접했습니다. 이 과정에서 각종 토큰 사용량이 늘어날수록 CPU를 늘리는 쪽으로 대응이 나오는 게 아니라, AI 서버를 늘리는 쪽으로 기업들이 대응하고 있습니다. 기존 CPU Farm의 검색, 추천, 분석, 시뮬레이션, 비디오 처리, EDA, DB 작업 등 Non-LLM 워크로드까지 이전하는 과정입니다. 물론 CPU로 처리할 때 충분히 효율이 잘 나오는 워크로드들이 있겠지만, 계속해서 옮기는 과정입니다. ​ *코멘트 → 그리고 엔비디아 입장에서는 이미 ARM의 라이선스를 바탕으로 자체 칩을 갖고 있기에, 인텔과의 x86 협력은 향후 워크로드 대응에 중요한 전략적 협력이기도 했습니다. 양사에 도움이 되는 전략적 협력입니다. 이전에 <주간전략보고 : 투자의 생각 (9월 22일~9월 26일)>에 엔비디아가 Enfabrica를 인수한 게 차세대 X Factor가 될 가능성이 있음을 전해드렸는데, <마이크론 3Q25 실적발표> 자료와 함께 보시면 정리가 더 잘되실 것 같습니다. 핵심은 2026년에 본격적으로 Agentic AI가 채택된다면 AI서버-GP서버가 통신할 일이 매우 많아지고, 여기서 생기는 병목을 어떻게 처리하느냐가 중요해지고 있다는 것입니다. ​ *코멘트 → 장기적으로 보자면 “범용→가속” 전환을 CPU–GPU–DPU–NIC–스위치 레벨에서 함께 설계한다는 의미입니다. NVLink로 한 랙 안에서 GPU들을 초저지연으로 묶어 Scale-up을 만들고, Spectrum-X와 ACF-S(슈퍼NIC: Enfabrica IP#1) 같은 이더넷 패브릭으로 랙과 랙을 잇는 Scale-out을 만들며, 메모리 풀(EMFASYS: Enfabrica IP #2)로 HBM의 용량 한계를 외부 메모리 계층으로 보완합니다. 이렇게 하면 에이전트형 AI가 검색·DB·툴 실행을 거치며 여러 번 추론할 때 생기는 통신·메모리 병목이 줄고, GPU는 연산에만 집중해 토큰당 비용($/token)과 에너지(J/token)를 함께 낮출 수 있습니다. 결과적으로 기업은 CPU 서버를 더 늘리는 방식이 아니라 AI 서버+네트워크+메모리 계층을 통으로 확장하는 쪽이 경제적이 되고, 훈련·사후훈련·긴 추론 모두에서 TCO 대비 성능이 강화되는 식입니다. ​ 젠슨 황 Jensen Huang : AI의 첫 번째 사용 사례는 이미 어디에나 있습니다. 검색 엔진, 추천 엔진, 쇼핑 등에 있습니다. 원래는 CPU가 추천 및 랭킹 알고리즘을 다뤘었는데 그게 이제 GPU로 옮겨온 겁니다. 범용 컴퓨팅에서 이제는 가속 컴퓨팅과 AI로 전환되는 과정입니다. 메타, 구글, 바이트댄스, 아마존이 쓰고 있습니다. 하이퍼스케일러들이 AI로 전환하는 데에만 수천억 달러가 듭니다. 틱톡, 메타, 구글만 보더라도 이미 가속화된 컴퓨팅을 필요로 하는 40억 명의 사람들에게 서비스해야 합니다. AI가 없이도 새로운 기회를 창출하고 있는 겁니다. 과거에 하던 방식을 더 효율적이고 새로운 방식으로 바꾸는 법니다. ​ 이제 미래에 대해 얘기해봅시다. 이제 더 이상 화석연료를 안 쓸 겁니다. 전기를 쓰겠죠. 프로펠러 비행기가 아닌 제트기를 타죠. 그럼 이제 AI가 도입되고 모두가 가속컴퓨팅을 도입하면 그때 어떤 애플리케이션이 등장할까요? 그게 모든 기회입니다. 가장 파괴적인 길은 앞으로 모터가 육체노동을 대체한다는 것입니다. ​ AI 팩토리들은 인간의 지능을 증강하기 위한 토큰들을 생성할 겁니다. 인간 지능은 세계 GDP의 65%를 나타냅니다. $50T에 대한 생산성이 AI에 의해 증강되는 겁니다. 제가 연봉 $100K 직원을 고용하고 그 직원을 $10K AI로 증강한다고 가정해봅시다. AI는 $100K 직원의 생산성을 2~3배 높일 수 있다면 고용주들은 반드시 그렇게 할 겁니다. 지금 이미 엔비디아에서 그렇게 하고 있습니다. 모두가 AI 에이전트를 쓰고 있죠. ​ 엔비디아의 모든 소프트웨어 엔지니어, 모든 칩 설계자가 이미 AI와 함께 일하고 있으며 100% 적용되어 있습니다. 결과적으로 저희가 만드는 칩도 더 좋아졌고, 그 수도 더 많아질 수 있었으며, 개발 속도도 더 빨라졌습니다. 회사로서 더 빠르게 성장하고 있고, 더 많은 사람을 고용하고 있습니다. 생산성이 높아지니, 매출도 늘고, 수익성도 더 높아집니다. 이제 엔비디아의 이야기를 세계 GDP에 적용할 때입니다. ​ 가장 가능성이 높은 일은 $50T의 생산성이 20% 증가하여, $10T 만큼이 새롭게 생긴다고 봅시다. 그 $10T는 기계 위에서 돌아갈 겁니다. AI는 과거와 다릅니다. 이전에는 소프트웨어가 미리 작성된 다음 CPU에서 읽기만 하면 됐고 사람이 작동시키면 읽어내서 답하는 식이었습니다. 지금은 기계가 토큰을 생성해서 답하고, 답하기 전에 생각하며 토큰을 씁니다. 지금 소프트웨어는 늘 새롭게 쓰여지고 있는 것입니다. ​ AI가 생각하기 위해서는 AI 팩토리가 필요합니다. 그래서 $10T의 토큰 시장이 GPM 50%로 굴러간다고 보고, $5T는 AI 팩토리를 필요로 할 겁니다. 그래서 누군가 매년 전 세계의 CAPEX가 $5T가 될 것이냐라고 묻는다면, 저는 그 계산이 맞다고 말할 겁니다. 전 세계 GDP를 위해 인간 지능을 증강할 것입니다. ​ 클라크 탱 Clark Tang : 저희 추정으로 올해 AI CAPEX의 TAM은 연간 $400B인 것 같습니다. 그러면 이게 4~5배 이상 엄청나게 증가한다는 거군요. ​ 젠슨 황 Jensen Huang : 어젯밤 에디 우가 알리바바에서 말하길, "지금부터 10년 후까지 데이터센터 전력을 10배 늘릴 것"이라고 말했습니다. 엔비디아의 매출은 거의 데이터센터 전력 수요 증가와 같습니다. 그리고 "토큰 생성량이 2~3개월마다 2배로 늘어나고 있다"고 말했죠. ​ 브래드 거스너 : 매우 흥미로운 역사적인 내용이 하나 있는데, 지난 2,000년 동안 GDP가 거의 성장하지 않았었다는 사실입니다. 그러다 산업혁명이 일어나고 GDP가 엄청나게 가속화됐습니다. 디지털혁명이 일어나고 GDP가 가속화됐습니다. 그래서 기본적으로 당신이 말하는 것과 스콧 베센트가 말하는 게 비슷한 맥락인 것 같은데, 그는 "내년에 미국이 4% GDP 성장을 달성할 수 있다"고 하고 있습니다. 기본적으로 당신이 말하는 건 세계 GDP 성장률이 가속화될 거라는 데에 대한 베팅입니다. 인간을 위해 일할 수십억 명의 에이전트가 생기니 바뀐다는 거죠. GDP는 고정된 노동과 자본에 대한 산출이니 가속되어야 한다는 내용인 것 같습니다. ​ ​ 젠슨 황 Jensen Huang : 가속화될 겁니다. 이제 AI 에이전트는 새로운 산업을 만들고 있습니다. 오픈AI는 역사상 가장 빠르게 성장하는 기업입니다. 기하급수적으로 성장하고 있습니다. AI 산업 자체도 매우 빠르게 성장할 수밖에 없습니다. AI 뒤에는 AI 팩토리가 필요하기 때문입니다. 인프라가 반드시 필요합니다. 제 산업이 성장하니 그 아래에 있는 산업도 성장합니다. 에너지 산업이죠. 에너지 산업의 르네상스 같은 일입니다. 원자력, 가스터빈, 등 모두가 성장하고 있습니다. ​ 브래드 거스너 : 회의론자들은 2026년에 AI 매출이 $100B가 될 수 있겠느냐, 그리고 2030년까지 AI 매출이 $1T가 나와야 한다고 말하고 있습니다. 이것에 대해서는 어떻게 생각하세요? ​ 젠슨 황 Jensen Huang : 네, 그렇게 생각하고 이미 AI 매출은 $100B가 넘습니다. 하이퍼스케일러들은 CPU에서 AI로 전환했습니다. 그들의 매출 기반은 이미 AI 기반입니다. AI 없이는 틱톡을 쓸 수 없습니다. AI 없이는 쇼츠를 볼 수도 없습니다. 메타가 개인화된 콘텐츠를 제공하는 것도 AI 없이는 불가능하죠. 이전에는 콘텐츠를 미리 만들고 추천 엔진이 선택하는 식이었습니다. 지금은 AI가 생성하는, 거의 무한한 선택지가 있죠. ​ 브래드 거스너 : 그건 지난 3~4년 동안 이뤄져온 변화가 아닌가요? ​ 젠슨 황 Jensen Huang : 저커버그가 말했지만, 제가 SIGGRAPH에 함께 있을 때 저커버그가 말하길 GPU로의 전환이 틱톡에 비해 늦었다고 말했습니다. 메타의 GPU는 2년 반 정도 됐습니다. GPU를 활용한 검색 같은 경우는 이제 확실히 새로운 것이죠. ​ 브래드 거스너 : 그럼 앞으로 어디로 나아가야 할까요? 탑다운으로 보실 때 앞으로 3~5년 안에 공급 과잉에 직면할 가능성이 몇 퍼센트라고 보시나요? ​ 젠슨 황 Jensen Huang : 모든 $1T에 달하는 범용 컴퓨팅을 완전히 가속 컴퓨팅 및 AI로 전환할 때까지는 컴퓨팅 공급 과잉이 발생할 가능성은 극히 낮다고 봅니다. 이 전환에는 2~3년 정도가 더 남아있습니다. 모든 추천 엔진이 AI로 변할 때까지, 모든 콘텐츠 생성이 AI로 바뀔 때까지입니다. 콘텐츠 생성이나 소비자들을 위한 콘텐츠 및 광고 생성은 추천 시스템에 의존하기 때문입니다. ​ *코멘트 → 메타의 매출은 98%가 광고에서 나오고 있고, 메타의 광고 매출은 광고노출(Ad Impressions) x 광고단가(Ad Price)로 결정됩니다. 그 중 광고노출에는 총 3가지가 영향을 미칩니다. ⓐ사용자 수(Users) ⓑ체류시간(Time Spent per User) ⓒ광고노출건수(Ad Load)입니다. 메타는 현재 AI 기반의 추천알고리즘을 통해서 ⓑ체류시간을 늘리고 ⓒ광고 노출건수를 늘리는 쪽으로 이미 수혜를 보고 있습니다. ​ *코멘트 → 지표를 통해서도 확인할 수 있습니다. ​ 사용자 수(DAP)는 메타 앱 제품군 내(Facebook, Instagram, Messenger, Threads, WhatsApp)의 일간 활성 사용자 수가 계속해서 증가하는 흐름입니다. 매일 메타 플랫폼을 찾는 사람의 수가 계속해서 증가하고 있습니다. 사용자들이 앱에 만족하고 있다는 뜻입니다. 광고노출(Ad Impressions)은 체류시간과 광고노출건수가 곱해져서 나옵니다. 메타는 계속해서 텍스트 → 이미지 → 비디오순으로 콘텐츠를 늘리고 있습니다. 사람들이 원하는 콘텐츠 포맷을 늘리기 위해 어떻게 앱을 바꿀지 고민하고 있고, 여기에 더해서 콘텐츠 추천 및 랭킹 알고리즘이 좋아지면서 사람들이 하루 중에 머무는 시간, 하루 중에 보는 콘텐츠의 양이 늘어나고 있습니다. 메타 입장에서 광고를 붙이기에는 콘텐츠 구성이 5분짜리 비디오 2개로 구성되어 있는 것보다 2분짜리 비디오 5개로 구성되어 있는 게 더 좋습니다. 숏폼이 유리합니다. 더 많은 콘텐츠를 보여줄 수 있고, 더 많은 광고를 붙일 수 있기 때문입니다. 광고단가(Ad Price, ARPP)도 계속해서 상승하고 있습니다. AI/ML 기술로 광고 타겟팅 정확도와 전환율이 높아질수록 광고주의 ROI가 향상되며, 이는 플랫폼 입장에서 광고단가를 높일 수 있는 근거가 되기 때문입니다. 예를 들어, 경쟁 플랫폼이 $100 광고비로 $200의 효과를 낼 때 메타는 같은 비용으로 $300의 성과를 제공한다면, 메타는 광고단가를 $150로 올리더라도 여전히 광고주에게 매력적인 선택지가 됩니다. ​ 브래드 거스너 : 지금 CAPEX는 앞을 보고 미리 구축하는 것인데, 거기서 오는 괴리가 좀 불안합니다. 경기침체나 과잉이 오는 걸 보더라도 돈을 투자해야 할 의무가 있나요? ​ 젠슨 황 Jensen Huang : 사실은 그 반대입니다. 저희는 공급망의 제일 끝에 있습니다. 고객과 완전히 접해 있습니다. 그래서 저희는 수요에 따라 빠르게 대응합니다. 지금 모든 VC분들이 말하시고 계시고 여러분도 아시겠지만, 여전히 세상은 컴퓨팅 부족을 겪고 있습니다. GPU가 부족한 게 아닙니다. GPU는 주문을 받으면 바로 만들어드립니다. 지난 몇 년 동안 공급망을 정말 깊게 파고들었습니다. 웨이퍼 시작부터 CoWoS, HBM 메모리, 아시다시피 모든 공급망을 강화했습니다. 2배로 늘려야 하면 2배로 늘릴 수 있습니다. 3년에 대한 로드맵을 공유하고 있고, 공급망은 준비되어 있죠. 이제 수요 신호를 기다리고 있습니다. CSP, 하이퍼스케일러, 고객들이 연간 계획을 세우고 추정치를 주면 저희는 그에 맞춰 대응하고 생산합니다. 물론 지금 벌어지고 있는 일은 고객들이 저희에게 제공하는 모든 수요 예측이 틀렸다는 겁니다. 과소 예측했기에 쟁탈전 모드에 있습니다. ​ 브래드 거스너 : 최근에 사티아 나델라가 CAPEX를 꽤 줄이는 듯 보였었고 그랬는데, 요즘 2개의 GW급 클러스터를 구축했고 가속화할 예정이라고 말하고 있습니다. 이들이 앞으로 수요 예측에 어떻게 나설 거라고 보세요? ​ 젠슨 황 Jensen Huang : 두 가지 지수함수적 성장이 이끌고 있습니다. AI 채택률이 기하급수적으로 증가해왔습니다. 두 번째 지수함수적 증가는 추론이었죠. 1년 전에 제가 여기서 말했던 것입니다. AI가 단순히 답을 외우는 것을 넘어서 패턴화하고 일반화하는 것에서 한 번 더 나아가면 그게 바로 사전훈련입니다. 답을 외우고 일반화하는 정도가 One-shot LLM이었죠. 1년 전부터 Reasoning이 등장했고, AI가 도구를 쓰기 시작했고, 이제 10억 배 더 똑똑하게 생각하는 AI가 된 겁니다. 훨씬 더 많은 컴퓨팅 자원을 쓰고 있습니다. ​ 클라크 탱 : 제 생각에는 일부 하이퍼스케일러들이 워크로드가 복잡했기에 CPU 컴퓨팅을 GPU로 바꾸는 데 있어서 얼마나 빨리 소화할 지 모르니 구매량을 적게 설정한 게 있는데, 이제 알고보니 모두가 과하게 적게 수요예측을 했었다는 게 밝혀진 상태라고 봅니다. ​ 젠슨 황 Jensen Huang : 제가 가장 좋아하는 애플리케이션 중 하나는 바로 구식 데이터처리, 정형 데이터 처리입니다. 그리고 곧, 가속화된 데이터 프로세싱에 대해서 매우 큰 계획을 발표할 예정입니다. 데이터 프로세싱은 사실상 전 세계 CPU 워크로드의 대부분을 차지하고 있습니다. 여전히 완전히 CPU에서 실행되죠. Databricks에 가면 CPU 컴퓨팅이 가득하고, Snowflake도 CPU가 가득하며, Oracle의 SQL도 CPU입니다. 모두 SQL 정형 데이터를 처리하기 위해 CPU를 사용하고 있습니다. ​ 그러나 미래에는 이 모든 것이 AI 데이터로 바뀔 겁니다. 그게 저희가 노리는 거대한 시장입니다. 하지만 엔비디아가 하는 모든 것에는 가속화 시킬 레이어가 필요하고, 도메인별 데이터 처리를 어떻게 가속화할 것임이 필요합니다. 구축해야 하는 작업들이 있는데, 곧 그렇게 될 겁니다. ​ *코멘트 → 젠슨황은, 엔비디아가 "곧 데이터 프로세싱/SQL 가속화(accelerating data processing/SQL)에 대한 새로운 큰 이니셔티브를 발표할 예정"이라고 말했습니다. 시점을 보면, 10월 27~29일에 치러지는 GTC 2025 Washington D.C.에서 할 것으로 예상합니다. Snowflake, Databricks, Oracle 등에서 데이터를 불러오려면 CPU로 처리하는 작업이 많은데 여기에 대한 병목을 해결하겠다는 것입니다. 인텔과의 협력도 그렇고, Enfabrica 인수도 그렇고, 엔비디아가 2026년부터 본격화될 Agentic AI 워크로드 급증을 앞두고 CPU의 데이터 프로세싱 작업을 가속컴퓨팅으로 교체하기 위한 작업 중이라고 느낍니다. 새로운 X Factor를 찾아라 Hopper → Blackwell → Rubin → Feynman ​ 브래드 거스너 : 2024년부터 1년에 1개의 제품을 내놓기로 출시 주기를 당기셨는데요. 그렇게 하고 2025년에는 Grace Blackwell로 상당한 데이터센터 풀스택 업그레이드가 있었고, 2026년 하반기에는 Vera Rubin을 출시할 예정입니다. 2027년에는 Ultra가 있고, 2028년에는 Feynman을 출시하실 예정인데요. 이 개발 과정은 어떻게 되고 있나요? 이렇게 바꾸신 이유는 뭔가요? 그리고 AI가 연간 출시주기에 영향을 주고 있나요? ​ 젠슨 황 Jensen Huang : 맨 마지막 답에는 YES입니다. AI가 없었다면 엔비디아의 속도나 규모는 매우 제한적으로밖에 성장할 수 없었을 겁니다. AI가 없으면 엔비디아가 하고 있는 속도가 안 나옵니다. 왜 연간 출시주기로 했는가를 생각해보자면 토큰 생성속도가 기하급수적으로 증가하고 있기 때문이었습니다. 고객 사용량도 기하급수적으로 성장하고 있었죠. 이제 ChatGPT 출시 2년정도 지난 상황에서 주간 활성 사용자 수는 벌써 8억 명이나 됩니다. Reasoning을 사용하기에 훨씬 더 많은 토큰을 사용하고 있죠. ​ 첫 번째는, 토큰 생성 속도가 엄청나게 증가하고 있으니 두 개의 지수함수가 겹쳐진 상황이라 엄청난 속도로 성능을 높이지 않으면 토큰 생성 비용이 너무나 증가할 것이란 예상을 했습니다. 비용을 낮추는 새로운 기술들을 공격적으로 도입해야만 했습니다. 그래서 그 속도로 출시하게 됐습니다. Keppler에서 Hopper까지 도달하는데는 AI 컴퓨팅이 10년 동안 10만배 좋아졌습니다. 그게 AI 여정의 시작이었습니다. ​ *코멘트 → Joules per token은 토큰 1개를 생성하는 데 소모되는 에너지입니다. 값이 낮을수록 효율이 좋습니다. 성능 개선은 늘 X Factor를 더해가면서 나왔습니다. ⓐ알고리즘에서도 FlashAttention, MoE, KV Cache 같은 것들이 생겼었고, ⓑ정밀도에서는 FP32, FP16, FP8, FP4로 내려왔으며, ⓒ아키텍처나, ⓓ네트워크 패브릭에서 NVLink, NVSwitch 발전, ⓔ컴파일러와 커널의 발전, ⓕ런타임 vLLM 같은 것들을 하나씩 풀스택으로 최적화시켜오면서 토큰당 전력 사용량이 기하급수적으로 줄어온 방향입니다. 보시면 Hopper는 토큰 1개당 10J을 소비했는데 Blackwell은 0.4J를 소비하는 수준으로 전력 효율이 좋아졌습니다. ​ 젠슨 황 Jensen Huang : Hopper 대비 Blackwell은 NVLink72덕에 30배 좋아졌습니다. Rubin에서는 또 다른 성장의 X Factor를 얻을 것이고, Feynman에서는 또 한 번의 다른 X Factor를 얻을 겁니다. 무어의 법칙이 통하지 않는다는 건 트랜지스터 단위에서의 성능 향상이 이제 더 이상 불가능하다는 것입니다. 그렇다면 엔비디아가 해야 할 과제는 시스템 수준의 레벨에서 모든 문제를 분해하고, 모든 칩을 동시에 변경해야 하며, 모든 소프트웨어 스택, 모든 시스템을 동시에 변경해야 한다는 의미입니다. 극한의 공동 설계입니다. 이전에는 아무도 이 수준으로 공동 설계를 한 적이 없습니다. ​ ​ 젠슨 황 Jensen Huang : CPU를 바꾸고, GPU를 바꾸고, 네트워킹 칩들을 모두 바꾸고, NVLink로 Scale-up을 혁신하고, Spectrum-X로 Scale-out을 혁신했습니다. 누군가는 '아 그냥 이더넷 채택한다는 거구나'라고 말했지만, Spectrum-X 이더넷은 단순한 게 아님을 사람들이 깨닫고 있습니다. 이제 훨씬 더 큰 시스템을 구축해야 하므로 여러 AI 팩토리를 연결하고 있습니다. 이걸 매년 새롭게 내고 있죠. TCO 대비 성능을 기하급수적으로 끌어올림으로써 고객은 토큰 비용을 낮추고, 사전 훈련, 사후 훈련, 긴 추론을 통해서 토큰의 지능을 더 끌어올릴 수 있으며, 결과적으로 AI가 똑똑해질수록 더 많은 곳에 사용됩니다. ​ 브래드 거스너 : 잘 모르시는 분들을 위해서, 공동 설계란 무엇인가요? ​ 젠슨 황 Jensen Huang : 모델, 알고리즘, 칩, 시스템을 동시에 최적화해야 함을 의미합니다. 틀에서 벗어나 혁신해야 합니다. 무어의 법칙은 CPU를 계속해서 더 빠르게 만들기만 하면 됐습니다. 상자 안에서 혁신하는 것이고, 칩을 더 빠르게 만들면 됐죠. 이제 그 칩이 더 이상 빨라지지 않으니 어떻게 해야 할까요? 상자 밖에서 혁신해야 합니다. 그래서 엔비디아가 CUDA를 만들었고, GPU를 발명하고, 이 둘을 매우 큰 규모로 공동 설계하면서 상황을 바꾸고 있습니다. 저희는 모든 라이브러리를 다루고 있습니다. ​ *코멘트 → 엔비디아가 말하는 풀스택은 데이터센터 설계 전체를 뜻합니다. GPU, NVLink/NVSwitch, NIC·DPU, InfiniBand·Ethernet 스위치, 액체냉각과 전력까지 랩·포드 단위로 하나의 제품처럼 다루는 것입니다. 이 모든 레이어를 CUDA·cuDNN·TensorRT-LLM·NCCL과 DGX Cloud/AI Enterprise 같은 상위 스택으로 묶어 운영하기에, 소프트웨어 인력의 대규모 확충이 경쟁력으로 직결됩니다. 엔비디아는 오픈소스 런타임·프레임워크(예: PyTorch, Triton 서버, vLLM 등)와의 호환성을 상시 점검하여 마이그레이션 마찰을 낮추고, 고객의 운영 복잡도를 줄이는 데 집중하고 있습니다. ​ 젠슨 황 Jensen Huang : 풀스택은 이제 소프트웨어와 단일 GPU 칩을 넘어섰습니다. 스위치, 네트워킹, NIC, 그 안의 소프트웨어 그리고, Scale-up, Scale-out을 통해서 Blackwell은 Hopper에 비해 30배 좋아질 수 있었습니다. 극단적인 공동 설계에서 가능했습니다. 엔비디아가 이 모든 것을 구축하는 이유이기도 하고, 엔비디아가 소프트웨어 인력이 매우 많고, 빠르게 늘리고 있는 이유입니다. 저희는 모든 오픈소스 소프트웨어를 체크합니다. 엄청나게 많은 소프트웨어를 다루고 있고 이건 AI 하나만 말씀드린 겁니다. CG, 디지털 생물학, 자율주행차 같은 것들도 남아있죠. 저희가 생산하는 소프트웨어의 양은 엄청나고, 그게 바로 저희가 깊고 극단적인 공동 설계를 할 수 있는 이유입니다. ​ 브래드 거스너 : 그렇다면 엔비디아의 경제적 해자가 3년 전보다 더 커졌다고 말할 수 있나요? ​ 젠슨 황 Jensen Huang : 네 그렇습니다. 아시다시피, 경쟁은 어느 때보다 치열하고 어느 때보다 어렵습니다. 제가 그렇게 말씀드리는 이유는 웨이퍼 비용이 점점 더 높아지고 있기 때문입니다. 극단적인 규모로 공동 설계를 하지 않으면 X Factor 성장을 할 수 없습니다. 그래서 1년에 저희가 6~8개에 달하는 칩들을 개발하고 있습니다. ASIC을 만드는 게 중요한 것이 아니라, AI 팩토리 시스템 전체를 구축하는 게 중요합니다. 이 시스템은 GPU말고도 많은 칩들이 들어가고, 모두 공동 설계되어 있으며, 이 모든 것을 함께 구축할 때 10배씩 성능이 좋아질 겁니다. 고객이 GW급 클러스터를 구축하면, 40~50만 개의 GPU를 동시에 원활히 작동하게끔 한다는 것과도 같습니다. 이 규모는 사실 기적에 가깝습니다. ​ 고객이 40~50만 개의 칩을 구매한다는 건 엄청난 리스크를 지겠다는 것과도 같습니다. 예를 들어, 어떤 고객이 입증되지 않은 칩에 $50B 규모의 주문을 넣겠는지 스스로 한 번 생각해봐야 합니다. 완전히 새로운 칩을 구매한다는 건 상당한 리스크입니다. 반면 엔비디아는 아키텍처가 가장 입증되었기에 그렇게 할 수 있습니다. 고객 규모가 엄청나고 공급망 규모도 이제 엄청납니다. 저희 공급망은 저희가 그걸 전 세계 고객들에게 판매할 거라는 걸 믿고 있으니 공급망을 구축하고 있습니다. 만약, 새로운 기업이라면 누가 그 회사를 위해 모든 것을 시작하고 미리 구축할까요? 한 번에 수천억 달러를 투자해야 하는 일입니다. ​ *코멘트 → Azure, AWS, GCP, Tier 2 CSP, 소버린 클라우드의 수요는 제외하고 차세대 모델을 만들기 위한 클러스터 수요만 NVL72 랙으로 받는다고 가정해도 오픈AI 5,555개 + 메타 6,944개 + xAI 7,639개입니다. 이들의 값만 합치더라도 NVL72 랙 제품 수요는 20,139개이므로 수요 초과정도가 매우 큽니다. GPU와 함께 판매되는 네트워킹 제품까지를 고려하면, '차세대 모델을 구축하기 위한 클러스터용에서만' 엔비디아가 인식할 수 있는 매출이이 $100B+입니다. 엔비디아의 CY25 예상 매출이 $200B인 걸 감안하면 이정도면 이미 상당한 수요입니다. ​ *코멘트 → 이걸 보다보니, 어쩌면 xAI와 MSL도 오픈AI와 비슷한 방향의 전략적 파트너십을 원할 수 있겠습니다. 엄청난 자본이 들어가는 시대에 일부 워크로드에 ASIC도 필요하겠지만 기본적으로 엔비디아 칩을 주류로 쓸 AI Labs들 입장에서는 엔비디아와의 ML/System Co-design이 중요하기 때문입니다. GPU vs ASIC 풀스택에서만 나오는 효율화 & Customer Owned Tooling ​ 클라크 탱 : 그 점에서, 아시다시피 세계에서 가장 중요한 논쟁이자 논란 중 하나인 ASIC들에 대해서 생각해볼까 합니다. GPU vs ASIC에 대한 것이죠. 구글의 TPU, 아마존의 Trainium 같은 루머들이 많습니다. 당신은 칩이 아닌 시스템을 구축하고 있으며, 스택의 모든 부분들로 성능을 높이고 있다고 말씀하셨습니다. ASIC 프로젝트들 중 상당수(Most of them)가 실제 양산에 도달하지 못할 수 있다고 말씀하셨었는데, 구글의 TPU는 또 꽤나 성공하고 있는 듯 보입니다. 그렇다면 현재 상황에 대해서 다시 한 번 말씀해주실 내용이 있을까요? ​ 젠슨 황 Jensen Huang : 구글이 가졌던 것은 그들은 선견지명을 갖고 있었다는 겁니다. 그들은 모든 것들이 있기 전에 TPU v1을 시작했습니다. 이건 스타트업을 만드는 것과도 같습니다. 시장이 성장하기 전에 스타트업을 만들어야 하는 것입니다. 시장규모가 $1T일 때 스타트업으로 등장할 수는 없습니다. VC쪽에서 이런 오류를 많이 범하곤 하는데 엄청나게 큰 시장에서 몇 %의 시장 점유율만 가져와도 거대기업이 될 거란 주장을 많이 합니다. 그건 근본적으로 틀린 얘기입니다. ​ 원래 작은 회사가 작은 산업에서 100% 점유율을 가지고 시작해야 하는 겁니다. 엔비디아와 TPU가 그랬습니다. 둘 뿐이었습니다. 그리고 그 산업이 엄청나게 커진 겁니다. 산업을 창조하는 과정이 중요합니다. ASIC들이 성공을 위한 과제가 많다는 겁니다. 매력적인 시장처럼 보이지만, 이 매력적인 시장은 GPU라는 칩 위에서 진화해왔습니다. ​ 저는 방금 AI 팩토리에 대해서 말씀드렸고, 방금 CPX라는 칩을 선보인 것도 보셨을 겁니다. 엄청난 양의 거대 컨텍스트 처리, 그리고 Diffusion 비디오 생성을 위해서 매우 특화된 워크로드를 처리할 수 있는 칩이지만 데이터센터 내에서 매우 중요한 작업을 처리할 수 있는 칩입니다. AI 데이터처리 프로세서들의 서론에 가까운 칩입니다. ​ 앞으로 장기 기억 메모리, 단기 기억 메모리, KV Cache 처리 등 AI 메모리를 훨씬 더 많이 다뤄야 하기 때문입니다. 시스템 주변의 모든 KV Cache를 처리하는 건 정말 복잡한 일입니다. 특화된 프로세서를 원할 수도 있고, 다른 솔루션이 나올 수도 있을 겁니다. 엔비디아의 관점은 GPU에만 있지 않다는 겁니다. ​ *코멘트 → 엔비디아의 Rubin CPX(4Q26 출시 예정)는 분산 추론(Disaggregated Inference)의 시작을 알린 칩입니다. Transformer 계열 LLM의 추론은 크게 두 가지 작업으로 분리됩니다. Prefill과 Decode입니다. ​ *코멘트 → 워크로드별로 특징을 보면 Prefill은 컴퓨팅이 많이 필요하고, 상대적으로 메모리 대역폭은 낮아도 됩니다. 그래서 값비싼 HBM을 사용하는 대신 Rubin CPX에는 128GB GDDR7(대역폭 2TB/s)을 탑재했습니다. HBM 절반 가격으로 만든 칩이고, R200 GPU 대비 4분의 1 가격으로 동일 작업을 수행할 수 있게 됩니다. 그리고 Decode는 메모리 대역폭을 많이 필요로 합니다. HBM에 적합하기에 R200에는 여전히 288GB HBM4(대역폭 20.5TB/s)가 탑재됩니다. ​ *코멘트 → 기존의 방식은 Aggregated로, Prefill과 Decode 작업을 단일 GPU에서 동시에 처리하는 식이었습니다. Prefill은 계산량이 많아 병렬성이 낮고, Decode는 KV Cache를 사용할 수 있기 때문에 병렬성이 상대적으로 높은 워크로드입니다. 문제는 단일 아키텍처이기 때문에 유연성이 부족하고 병목이 생긴다는 점이 문제였습니다. ​ *코멘트 → 새로운 방식은 Disaggregated로, Prefill과 Decode 작업 중에 Prefill을 전용 하드웨어로 분리하는 게 핵심입니다. Prefill에 맞게 따로 특화시킨 엔비디아의 Rubin CPX 칩에서 계산에 최적화된 작업을 하고, 병렬성이 높은 Decode 작업은 기존 Rubin GPU에 배정하는 것입니다. 이렇게 되면 KV Cache를 HBM 대신 GDRR7처럼 더 저렴한 스토리지로 옮겨서 GPU 메모리를 확보할 수 있게 됩니다. 워크로드에도 다양한 하드웨어간 스마트 라우팅으로 유연한 확장을 할 수 있다는 게 핵심입니다. ​ *코멘트 → 이를 위해 엔비디아는 소프트웨어 레벨에서 ⓐSmart Router, ⓑKV Cache Manager, ⓒGPU Resource Planner를 추가하여 LLM 추론 과정에서 Prefill과 Decode를 분산하여 처리하고, KV Cache를 GPU 메모리에서 오프로딩하여 GPU 리소스를 최적화하는 아키텍처입니다. 이렇게 하면 대규모 사용자 처리, 모델 확장성, 리소스 효율성이 모두 개선됩니다. 이전에 비해 Prefill 비용이 절감되므로 ROI가 30~50배 증가하고, 전체 시스템 단위 효율은 3~7.5배 좋아졌습니다. ​ *코멘트 → 기존의 칩들과 전혀 다른 구조이기 때문에 이제 모든 ASIC 플레이어들은 엔비디아와의 'TCO 대비 퍼포먼스' 비교에서 엔비디아를 따라가기 위해 자체적인 Prefill ASIC을 동시에 개발해야 하는 상황이 시작됐습니다. 그리고 이제 추론에서도 엔비디아가 깔아둔 분산형 추론 설계를 채택할 경우 훨씬 더 TCO 대비 퍼포먼스가 우수해질 것이므로, 약간의 락인 효과를 기대합니다. 추론이 점점 복잡해질수록 훈련에서처럼 엔비디아가 가진 하드웨어·소프트웨어·네트워킹·공급망 관리 차원의 해자가 점점 더 강해질 것으로 예상합니다. ​ 젠슨 황 Jensen Huang : 저희의 관점은 전체 AI 인프라를 살펴보고, 이런 놀라운 회사들이 지금의 매우 빠르게 바뀌는 모든 워크로드를 처리하는 데 무엇이 필요한지를 보는 겁니다. Transformer 아키텍처는 엄청나게 많이 바뀌었습니다. CUDA가 작동하기 쉽지 않고, 반복 수정하기 쉽지 않았다면 그들은 어떻게 그렇게 많은 실험을 통해서 어떤 Transformer 버전을 사용할지, 어떤 종류의 Attention 알고리즘을 사용할지 결정할 수 없었을 겁니다. CUDA에서 프로그래밍하기는 매우 쉽기 때문에 이 모든 것을 할 수 있는 공간입니다. ​ 3~5년 전쯤만 보더라도, 지금의 대부분의 ASIC 프로젝트들이 시작될 당시에는 이 사업이 굉장히 단순한 사업이었습니다. GPU만 대체하면 되는 경쟁이었습니다. 지금은 거대하고 엄청나게 복잡하며, 2년 후에는 이제 엄청나게 큰 규모의 산업이 될 겁니다. 그래서 경쟁자로서 이정도 규모의 시장에 진입하는 건 매우 어렵다고 생각하고 있습니다. ASIC으로 성장한 플레이어들도 마찬가지입니다. ​ 클라크 탱 : 컴퓨팅 환경에 최적의 균형이 있지 않을까요? 아시다시피 투자자들은 매우 이분법적인 사고를 합니다. 그저 Yes or No, 흑백 논리의 답을 원하죠. 하지만 ASIC이 작동하더라도 여전히 엔비디아의 입장에서 기회는 꽤 있어 보이긴 합니다. 엔비디아의 플랫폼을 구매하고, CPX가 나올 것이라고 느낀다면 CPX로 가속할 수 있는 워크로드들은 그 칩으로 채워넣을 수 있겠죠. 그래서 엔비디아 생태계에 새로운 워크로드가 생겨나면, 추가될 다양한 칩들이나 부품들이 나올 거라 생각합니다. 아시다시피, 현재 새로운 칩을 설계하려는 사람들은 1년 후에 어떤 일이 벌어질지 제대로 예상하지 못합니다. 그들은 단지 칩이 작동하게끔 하려고 노력할 뿐입니다. ​ *코멘트 → 엔비디아의 입장에서는 엔비디아 GPU + 엔비디아 네트워킹 바탕으로 클라우드를 구축 중인 오라클, 코어위브, 네비우스가 계속해서 새로운 하이퍼스케일러·프론티어 AI 연구소 딜을 따내고 있는 내용들이 좋습니다. 추론의 시대에서도 범 엔비디아 진영의 강세를 의미하기 때문입니다. 엔비디아의 점유율은 2~3년간 80% 이상을 유지할 것으로 예상합니다. 엔비디아의 수요-공급-경쟁역량에 대해서는 <엔비디아 2Q25 실적발표 : Blackwell 12개월치 SOLD OUT, AI CAPEX $3~4T를 말하다> 자료를 보시면 좋습니다. ​ 첫 번째, GPU와 ASIC은 동시에 고성장할 것으로 봅니다. 일단 이부분은 'GPU'라는 말에서 인식 차이가 처음 생깁니다. 뭔가 범용적인 것 같은 착각이 들기 때문입니다. 엔비디아 GPU는 출발은 그래픽 처리 장치였지만, 현재는 텐서코어 위주로 구성되어 있어 더 이상 전통적인 의미의 그래픽처리장치라고 보기는 어렵습니다. 오히려 연산 구조 측면에서 보면 GPU보다는 TPU에 더 가깝다고 할 수 있습니다. 이미 엄청나게 AI에 최적화된 칩입니다. ​ 두 번째, ASIC은 자체 워크로드까지 모두 설계할 수 있는 '빅테크'라면 수지타산이 맞는 작업입니다. ML 워크로드부터 시스템까지 한 번에 다루고 있는 기업이어야 하고, CUDA와 호환성을 유지하기 위해서 빅테크들은 자체 수백~수천 명의 엔지니어들을 둘 수 있기 때문입니다. 공존하는 이유는 AI Compute 시장이 $3~4T까지 커질수록 그에 맞게 자체 칩 개발을 통해서 얻을 수 있는 것도 많아지다보니 엔비디아가 계속해서 치고나가는 것만큼이나 OCP 등 각종 컨소시엄을 통해서 꾸준히 따라오는 속도도 빨라지기 때문입니다. 그러므로 다년간 ASIC의 비중이 가치 기준 점유율 20%(CoWoS는 후공정에서 처리하는 '웨이퍼 수'를 기반으로 하는 것이므로 정확하진 않습니다. 실제 고객들이 지출하는 '칩당 가격'면에서 엔비디아의 제품이 5배 이상 비쌉니다)를 유지할 것으로 예상합니다. 엔비디아의 해자를 말씀드리다보니 ASIC이 줄어드는 것으로 생각하실 수도 있지만 그럴 우려는 크게 없습니다. ​ 세 번째, ASIC은 '생각보다' 경쟁적인 환경입니다. 왜 그런가로 들어가보면, 하이퍼스케일러들이 무엇을 고려하는지를 생각해보시면 좋습니다. 엔비디아에게 종속되지 않고 로드맵을 짜려는 것도 있지만, 감안하더라도 장기적인 GPU와 ASIC 개발 기준은 하나입니다. '퍼포먼스 대비 TCO(총소유비용 대비 얼마를 뽑을 수 있느냐)'로 무엇이 더 좋은가입니다. 고객사 입장에서 볼 때는 ⓐ퍼포먼스를 끌어올려서 퍼포먼스 대비 TCO를 좋게 만들겠다는 방향이 NVDA이고, ⓑ초기 투입에 드는 AI 칩의 Cost를 낮춰서 퍼포먼스 대비 TCO를 좋게 만들겠다는 방향이 ASIC의 생각입니다. 정확히는 고객사인 빅테크의 생각입니다. 그렇다면 이 과정에서 더욱 저마진으로 ASIC을 양산해주는 플레이어로 ASIC Design이 옮겨다닌다는 문제가 있습니다. 일례로, 2024년 Broadcom/Marvell 우세에서 → 2025년 MediaTek/Alchip이 차세대 TPU 및 Trainium 딜을 양분하거나 전체를 따냈습니다. (1) 훈련용으로 쓰이는 TPU v6p, v7p는 브로드컴이 가져가고 있지만 추론용 칩류인 TPU v6e, v7e에서는 MediaTek이 입찰을 따냈습니다. (2) AWS Trainium 3, Trainium 4 프로젝트가 Marvell → Alchip으로 옮겨갔습니다 (3) OpenAI 칩은 아직 실물로 나온 게 없어서 스펙이 없습니다. 그리고 Fubon 리서치에 따르면, 사실 OpenAI 칩은 브로드컴뿐만 아니라 Marvell에서도 테스트 중이며, CY26에는 대략 $1.6B정도가 인식될 것으로 예상합니다. 투자자들이 공급망을 투명하게 보기 어렵다는 점을 이용해서 ASIC 플레이어(AVGO, MRVL)의 블러핑(아직 설계 하는 단계로 구매의향을 보인 것을 → 수주잔고로 말하거나, 시장규모를 언급하는 것)이 있습니다. (4) 중요한 건 실제 ASIC의 구매량은 1H26에 출하될 브로드컴이 만든 오픈AI의 칩·랙이 엔비디아의 칩·랙을 기준으로 해서 얼마나 '퍼포먼스 대비 TCO가 좋은가'를 기준으로 실제 구매로 연결됩니다. 즉, 실 구매량은 VR200 NVL144가 얼마나 경쟁력 있게 출하하느냐에 따라 달라진다는 의미인데, 젠슨황도 이를 알기에 계속해서 CPX, NVLink Scale-up, CPO, 800V, SiC, 칩 스피드 향상 등을 통해 하드웨어-소프트웨어-네트워킹의 해자를 강화합니다. 엄청나게 빠르게 역동적으로 움직이고 있으며 젠슨황은 Blackwell → NVL72 → CPX ASIC처럼 계속해서 '경쟁의 축'을 바꿔가고 있습니다. (5) MSFT가 AMD MI300X를 구매하기로 했다가 실제 워크로드상 CUDA 대비 Perf per TCO가 크게 안좋자 나머지 구매 계약을 취소한 바 있습니다. (6) MSFT 자체 ASIC도 Marvell을 통해 진행했다가 Maia 100/200 칩이 나왔지만 출시 당시에 엔비디아 칩 대비 성능이 안좋아 몇 차례 지연 끝에 실제 구매 계약은 거의 없는 점 등을 예로 들 수 있습니다. 그렇게 Maia가 그랬듯 다양한 ASIC 프로젝트들이 취소됐습니다. Reasoning 트렌드가 시작되자 올해 구글이 TPU 구매로 전량 채우려던 계획을 바꾸고, 엔비디아의 Blackwell 랙/시스템을 꽤 많이 구매했던 것도 결국은 퍼포먼스 대비 TCO가 가장 중요한 요소임을 보여준 사례입니다. ​ 네 번째, 그렇다고 ASIC 내에서 특정 플레이어가 무조건 밀릴 것이냐 하면 그것은 아닙니다. 계속해서 새로운 디자인을 따내는 고객도 있을 거지만, 잃는 고객도 생긴다는 게 문제입니다. 그리고 ASIC 및 네트워킹 체인은 하는 사업이 워낙 많은데 레거시 사업도 끼고 있고, 새로운 분야에 대해서 R&D로 몰입하지 못한다는 부분도 있습니다. Marvell의 DAC가 크레도(Credo)의 AEC로 대체되고 있는 점, 원래는 Broadcom의 SUE가 모두 가져갈 거라 생각했던 Scale-up 분야에서 아스테라랩스(Astera Labs)처럼 훨씬 더 Scale-up에 집중한 플레이어가 나온 게 사례입니다. ​ 다섯 번째, 다시 돌아와서 결국 GPU와 ASIC은 장기적으로 함께 성장하는 구조라는 큰 틀은 같습니다. 일부 워크로드가 꾸준히 ASIC 이전되더라도, 엔비디아가 로드맵대로 신제품을 출하한다면 향후 2~3년간은 현재 수준의 점유율을 유지하며 성장을 이어갈 가능성이 높습니다. 특히 내년부터 본격적으로 확대될 엔터프라이즈 AI, 소버린 AI, 피지컬 AI 수요는 대부분 엔비디아 GPU로 채워질 예정입니다. 새로운 영역/사용사례로 나아가고 → 더 이상 알고리즘이 효율화되지 않는 경우에는 하드웨어 비용을 낮추는 방식으로 효율화되고 → 다시 아낀 자원만큼 새로운 영역에 R&D 비용으로 할당하기를 반복하며 성장해왔습니다. ​ 젠슨 황 Jensen Huang : 구글은 매우 특별한 경우입니다. 제 말은, 리스펙을 받을 곳에는 리스펙을 표해야 합니다. TPU는 TPU v7까지 와있습니다. 그들에게도 어려운 일입니다. 제 생각에는 칩에는 세 가지 카테고리가 있습니다. 첫 번째는 아키텍처적인 카테고리입니다. x86 CPU, Arm CPU, NVIDIA GPU입니다. 그 위에 생태계가 있고, 아키텍처는 엄청난 IP를 가지고 굴러가는 것이고 매우 복잡합니다. 엔비디아처럼 기업들이 만들죠. ​ 두 번째는 ASIC입니다. 저는 ASIC이라는 아이디어를 발명한 LSI Logic에서 일했었습니다. 시장 규모가 크지 않을 때는, ASIC은 환상적인 개념입니다. 기업들은 칩 설계 기업과 계약해서 그들이 모든 것을 설계~제조~패키징하고 50~60%의 마진만 부담하면 됩니다. ​ 하지만 ASIC 시장이 커지면 고객 직접 설계(COT, Customer Owned Tooling)란 새로운 방식이 생겨납니다. 누가 그런 일을 하고 있을까요? 애플 같은 기업이 하고 있습니다. 애플의 스마트폰 칩은 이미 너무나 양이 많기 때문에 다른 회사에 50~60%의 마진을 주면서 ASIC을 만들게 하지 않습니다. 그들은 COT를 합니다. 그래서, TPU 사업 규모가 커지면 어떻게 할까요? COT를 할 겁니다. 의심의 여지가 없습니다. ​ 하지만 ASIC이 여전히 필요한 곳들도 있을 겁니다. 비디오 트랜스코더(Video Transcoder)는 결코 너무 커지지 않을 겁니다. SmartNIC(Smart Network Interface Card)도 너무 커지지 않을 겁니다. 그래서 ASIC 기업에서 10~15개의 ASIC 프로젝트가 진행 중이라고 말할 때 저는 그닥 놀라지 않습니다. 아마 SmartNIC가 5개, 트랜스코더가 4개 정도 있을 것입니다. 그게 모두 AI 칩일까요? 당연히 아닙니다. ​ *코멘트 → 일례로 최근에도 마벨이 "ASIC 파이프라인이 2025년 6월 기준 18개였고 → 2025년 9월 기준 20개로 늘었다, 신규 하이퍼스케일러들과 다수의 XPU 소켓을 확보했다"고 말했던 게 있습니다. 내용 자체를 먼저 말씀드리면 이렇습니다. ⓐASIC들은 지금은 초기 단계이지만 2027~2028년까지 새로운 프로그램들이 본격화되며 ⓑASIC 파이프라인은 6월 기준 18개 → 현재 20개 이상이며, 신규 하이퍼스케일러들과 다수의 XPU 소켓을 확보했다 ⓒ3nm와 2nm 설계를 주요 고객사들과 동시에 진행 중이며, 내년에 다수 tape-out 예정 ⓓAlchip이 AWS 차세대를 가져감으로 인해서 생기는 매출 공백은 없을 거라고 본다. 로드맵은 유지 중(?)이다. 1.6T Optics, 800G ZR 같은 신기술이 추가 매출원이 될 것이다.는 내용이었습니다. 여기서도 사실 교묘하게 부풀리기가 들어가 있는 상태입니다. '비디오 트랜스코더 및 SmartNIC 등 (AI와 무관한) ASIC들을 계약했다'는 게 대부분입니다. ​ 젠슨 황 Jensen Huang : 아시다시피, 만약 누군가가 특정 추천 시스템을 위한 임베디드 프로세서를 ASIC으로 만든다면 그렇게 할 수 있습니다. 하지만 AI를 위한 근본적인 컴퓨팅 엔진으로 그렇게 만들지 않습니다. AI는 항상 변하고 있습니다. Low Latency를 원하는 워크로드, High Throughput을 원하는 워크로드, 채팅을 위한 토큰 생성, CoT를 위한 워크로드, AI 비디오 생성 워크로드 같은 것들이 있습니다. 가속 컴퓨팅의 주력 백본을 만들려는 걸까요? 그게 엔비디아의 전부입니다. ​ 브래드 거스너 : 다시 한 번 쉽게 설명해주시겠어요? 마치 체스와 체커를 두는 것 같네요. 오늘날 ASIC을 만드는 빅테크들은 Trainium만 만드는 게 아니라 훨씬 더 큰 시스템을 자체적으로 만들고 있으며, 엔비디아는 정교한 시스템을 만들고 있다는 거죠. 그리고 최근에는 약간씩 생태계를 개방하고 계신데요. 어떤 점에서는 특정 도메인별로 가장 적합한 하드웨어 조각으로 나누시려는 것 같습니다. ​ 젠슨 황 Jensen Huang : 이미 저희는 NVIDIA Dynamo를 발표했습니다. 오픈소스로 공개했습니다. 분리 추론을 위한 AI 워크로드 오케스트레이션이고, 미래의 AI 팩토리는 분리 추론 구조가 자연스럽습니다. ​ 브래드 거스너 : 그리고 NVLink Fusion도 공개하셨죠. 인텔 같은 경쟁사에게도 해당하는 말인데요. 이 전체의 AI 팩토리를 구축하는 단위에서 개별기업들이 참여할 룸이 사라지니까 최종 소비자들 입장에서는 엔비디아가 갖고 있는 ARM CPU가 아니라 x86 CPU를 쓰고 싶다고 하면 선택할 수 있도록 만든 게 맞나요? ​ 젠슨 황 Jensen Huang : 맞습니다. 인텔의 칩을 연결할 수 있게 돼서 매우 기쁩니다. NVLink Fusion은 매우 좋은 아이디어이고 인텔의 생태계를 활용할 수 있게 됩니다. 전 세계 기업의 워크로드 대부분은 여전히 인텔의 칩에서 실행되고 있습니다. 인텔의 생태계와 엔비디아의 생태계를 융합한 겁니다. ARM과도 했던 일이었죠. 앞으로도 여러 기업과 이렇게 할 것이며 모두에게 기회가 될 겁니다. ​ 브래드 거스너 : 그리고 말씀하신 내용 중에 또 충격적이었던 게, 경쟁사들이 ASIC을 만들 때 그들의 모든 칩들은 엔비디아의 것보다 더 저렴하지만, 말그대로 $0에 칩을 만들어도 우리 칩이 더 저렴할 것이라는 말을 하신 적 있습니다. 그 시스템을 운영하는 TCO 관점에서, 전력, 데이터센터, 토지, 지능 토큰을 고려할 때 칩을 $0에 사는 것보다 훨씬 더 나은 선택이란 내용이었습니다. 공짜로 주더라도 엔비디아의 칩이 더 낫다는 말씀을 하셨는데요. ​ 젠슨 황 Jensen Huang : 왜냐하면 데이터센터 부지, 전력, 그리고 데이터센터 건축물만 하더라도 이미 1GW당 $15B이니까요. 두 가지 의미에서 생각해봅시다. 하나의 관점은 모두가 전력 병목을 느끼고 있는 현 상황에서 당신이 2GW의 전력을 추가로 계약했다고 칩시다. 당신은 2GW의 전력이 매출로 이어지길 바랄 겁니다. 엔비디아의 시스템을 구매한 고객의 와트당 성능 또는 와트당 토큰 출력 수가, $0 칩을 끼운 시스템을 구축한 사람의 와트당 토큰 수보다 2배 높다고 가정해보겠습니다. 깊고 극단적인 수준의 공동 설계를 했기 때문입니다. 제 고객은 데이터센터에서 2배 더 많은 매출을 낼 수 있는 겁니다. ​ 매출을 2배 늘리는 걸 싫어하는 건 사람은 없습니다. 다른 회사가 만드는 ASIC이 Hopper라고 가정해봅시다. 그리고 만약 누군가가 고객에게 15% 할인을 해준다고 치더라도, 엔비디아의 GPM 75%와 다른 기업의 GPM 50~65%의 차이는 Hopper 대비 Blackwell의 30배 성능 격차를 메울 만큼 크지 않습니다. 1GW에서 30배 더 많은 매출을 포기해야 한다는 의미이 포기하기에는 너무 큽니다. 칩을 무료로 준다고 하더라도 2GW 내에서만 사용할 수 있으니 기회비용이 터무니 없이 높습니다. 고객은 늘 와트당 최고의 성능의 시스템을 택할 겁니다. ​ *코멘트 → 칩값이 0이어도 토큰/와트가 낮으면 고정된 전력·부지·건물 비용을 회수하지 못하기 때문에 그렇습니다. 엔비디아의 GB200 NVL72 예시처럼 $3M 투자로 3년간 $30M 토큰 매출을 가정할 때, 동일 전력에서 1/4 성능인 시스템은 $8M 수준에 그칩니다. 효율이 ROI를 지배합니다. 결론적으로 고객은 “가장 높은 토큰/와트·토큰/랙”을 주는 시스템을 선택합니다. 가격/칩 개수가 아니라 전력·면적 당 매출 밀도가 해답입니다. ​ *코멘트 → 엔비디아의 강점은 하이퍼스케일러·AI 랩과의 밀착 협업에서 현장의 병목을 직접 확인하고, 그 해결책을 곧바로 제품 로드맵에 반영한다는 점입니다. 유일하게 고객의 고충을 '직접 보고 느끼며' 해결하는 기업이라 가능합니다. 주요 고객들이 NVDA-CUDA 기반으로 성능을 끌어올리는 과정에서 엔비디아 엔지니어들은 고객사 엔지니어들과 한 팀처럼 문제를 정의·재설계하고 있습니다. 그 결과 AMD나 ASIC 기업들이 주로 '고객들의 커스텀 요구에 부응하기'에 머무는 동안 엔비디아는 소프트웨어(Dynamo)–칩 설계(CPX)–랙 아키텍처(NVL144 CPX)로 이어지는 수직적 통합을 통해, 추론이 점점 더 중요해지는 시장에서 '퍼포먼스 대비 TCO' 중 '퍼포먼스'를 더 경쟁력 있게 끌어올릴 수 있게 되는 것입니다. ​ 브래드 거스너 : 제가 하이퍼스케일러 CFO 중 한 명에게 들은 바로도, 엔비디아의 칩에서 나오는 '와트당 성능'이 가장 중요하다보니 정기적으로 새로운 칩으로 업그레이드 하는 것이 더 저렴하다고 말씀하시더라고요. 그렇다면 Rubin, Rubin Ultra, Feynman을 내다볼 때에도 그런 트렌드가 계속될까요? ​ 젠슨 황 Jensen Huang : 저희는 1년에 6~7개의 칩을 만들고 있습니다. 각 칩들은 시스템의 일부입니다. 그리고 그 시스템에 대한 소프트웨어는 어디에나 있으며, Hopper 대비 Blackwell에서 이룬 30배 도약이 가능하려면 6~7개 칩 전체에 걸쳐서 통합 및 최적화가 필요합니다. 저희는 매년 이 일을 반복할 겁니다. 엔비디아 같은 기업이 전체의 시스템과 워크로드를 바라보면서 최적화할 순 있지만, 하나의 ASIC 기업이 전체를 최적화하기는 매우 풀기 어려운 문제일 겁니다. ​ 브래드 거스너 : 저희는 꽤 오랫동안 이 산업을 다뤄왔고, 생태계 전반에 투자하고 있으며, 구글과 브로드컴에 이르기까지 경쟁사에도 투자하고 있습니다. 하지만 정말 기본 원칙에 입각해서 생각할 때 엔비디아의 경쟁 우위에 대해서 생각해본다면, 엔비디아는 연간 단위로 움직이고, 공급망과 공동 개발을 하고 있으며, 규모가 엄청난 곳이 됐고, 이제 R&D 규모도 엄청납니다. M&A를 통한 강화, NVLink Fusion, CPX 같은 것을 더해서 엔비디아의 경쟁 우위가 높아지고 있다고 느끼게 만듭니다. 그런데 왜 엔비디아의 멀티플은 다른 대부분의 기업보다 낮은 걸까요? 아마 투자자들은 시총이 $4.5T이니 더 커지기 어렵다라고 보는 것 같습니다. ​ 젠슨 황 Jensen Huang : 제가 말씀드린 것처럼, 엔비디아의 기회는 컨센서스보다 훨씬 더 큽니다. ​ 브래드 거스너 : 투자자로서 오래 있었을 때, 불과 10년 전만 해도 사람들은 $1T 기업은 절대 나올 수가 없다고 말했었습니다. 그러나 지금은 10개나 되죠. ​ 젠슨 황 Jensen Huang : 아마 사람들이 엔비디아가 하는 일을 여전히 칩 기업으로 봐서 그런 게 아닐까 합니다. 저희는 칩을 만듭니다. 세계에서 가장 놀라운 칩을 만들죠. 하지만 엔비디아는 사실 AI 인프라 회사입니다. 파트너이고, 오픈AI와의 파트너십은 그걸 완벽하게 보여주는 사례입니다. 모든 기업들의 AI 인프라 파트너이고, 다양한 방식으로 개발자들과 협력합니다. 아시다시피 저희는 누구에게도 저희 제품을 사라고 요구하지 않습니다. 전체 랙을 사도록 요구하지도 않습니다. 칩만 구매할 수도 있고, 부품만 구매할 수도 있고, 네트워킹만 살 수도 있고, CPU만 사는 고객도 있습니다. 원하는 방식대로 판매합니다. 콘텐츠 발간 일정 ​ 10월 6일 (월) : 조금 더 가벼운 버전의 주간전략보고 10월 7일 (화) : 일간보고 10월 8일~10일 (수~금) : 휴가 / 일간보고는 없습니다 / 오픈AI 퇴사자의 AGI에 대한 글 #1~#4 재업 AI 사이클 : 전체 흐름 2025-09-26 AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : 승부사 젠슨황 그리고 화웨이의 역습 (바로가기) AI 사이클 : 기업/섹터 2025-09-24 마이크론 3Q25 실적발표 : 클라우드 매출 YoY 214%, 숫자보다 '이유'가 더 중요하다 (바로가기) 2025-09-17 Scale-up 네트워크 이해하기 : 아스테라랩스와 브로드컴, 왜 지금 Scale-up인가? (바로가기) 2025-09-16 골드만삭스 테크 컨퍼런스 : "전례 없는 수요를 보고 있습니다" (바로가기) 2025-09-10 오라클 3Q25 실적발표 : "모두가 다가오는 쓰나미🌊의 규모를 이해하고 있는 건 아닙니다" (바로가기) 2025-08-28 엔비디아 2Q25 실적발표 : Blackwell 12개월치 SOLD OUT, AI CAPEX $3~4T를 말하다 (바로가기) 업계 전문가 인터뷰 2025-09-19 업계 전문가 인터뷰 : 로빈후드, 화려한 부활에 가려진 비하인드 스토리 (바로가기) 2025-09-12 업계 전문가 인터뷰 : 아스테라랩스, 모두가 Scale-up을 필요로 하는 시대의 핵심 기업 (바로가기) 2025-09-02 업계 전문가 인터뷰 : 블룸에너지, 데이터센터로 어디까지 침투할 수 있을까? (바로가기)