[원문 유형] 네이버 프리미엄 콘텐츠
[채널] 올바른 미국주식 by SAPIENS
[게시일] 2026.06.12. 오후 3:40
[원문 URL] https://contents.premium.naver.com/sapiens/sapiensasset/contents/260612154051912lu
[제목] AI 사이클의 모든 것을 담은 게빈 베이커 인터뷰 : 버블의 역사는 반복되지 않지만, 운율은 반복된다
[수집 기준] 승인된 구독 열람권으로 실제 본문을 보존했다. 이미지·첨부는 별도 미디어 원장에 보관하며 시각적 의미 검토 여부를 구분한다.

[구독 원문 본문]
​

안녕하세요 올바른입니다.

​

AI 심화편, 게빈 베이커 인터뷰입니다. AI 인프라에 대한 모든 것들을 현 시점을 기준으로 다시 한 번 정리하는 자료입니다. 사이클, 역사와 운율을 생각하는 자료입니다.

​

인터뷰 자료에서는 늘 그렇듯 각종 주제별로 생각했던 것들을 합쳐서 정리드리곤 합니다. AI Labs의 지형도, 궤도 컴퓨팅, 파레토 프론티어, 분산 컴퓨팅의 기회에 대해 생각해봅니다.

​

개인적으로 느끼기에 24년 9월과 25년 9월 이후 각각 AI 판에서 일어나고 있는 변화에 대해 Dark Output과 파레토 프론티어의 변화 관점으로 생각해봤습니다.

​

큰 흐름 읽기 (Bird's-eye view)




2026-04-22

	

엔비디아 CEO 젠슨황 인터뷰 : 'TPU도 Trainium도, 그렇게 자신 있으면 공개적으로 붙자' (바로가기)




2026-04-15

	

오픈AI의 두뇌, 일리야의 후계자 야쿠브 파초키 : Spud 출시 직전, 대전략을 바꾸다 (바로가기)




2026-03-27

	

앤스로픽 CEO 다리오 아모데이 인터뷰 : "Extremely fast, but not infinitely fast" (바로가기)




2026-03-05

	

AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : "거품은 없다. ARR $100B가 온다" (바로가기)




2025-10-08

	

오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다 (바로가기)




AI 심화편 of 심화편




2026-06-05

	

AI 가속기 심화편 : GPU vs TPU, 무엇이 칩을 다르게 만드나 (feat. CPU, ASIC, FPGA) (바로가기)




2026-05-27

	

LLM 추론 토큰 가격의 비밀 : MoE의 시대, 엔비디아 NVL72가 중요한 이유 (바로가기)

투자자문 서비스에 따른 투자 시 원금 손실이 발생할 수 있으며, 투자 손익에 대한 책임은 전적으로 고객에게 귀속됩니다. 또한 과거의 투자수익이 미래의 수익률을 보장하지 않습니다.

​

신규 구독 전에, 아래 투자자문계약 권유문서의 계약 관련 제반 사항을 반드시 읽으시고 충분히 검토하시기 바랍니다.

​

*투자자문계약 권유문서 : https://naver.me/5ZST47Qf

목차

​

자본주의 역사상 가장 빠른 성장 : ARR $50B, 딥시크 먼데이, AI Labs의 컴퓨트, 일론이 가진 초능력

병목 그리고 버블의 운율 : 와트와 웨이퍼 - 궤도 데이터센터와 만인의 호국신산 'TSMC'

정액제 → 종량제 : 통신 사이클과 반대, 파레토 프론티어 변화, 분산 컴퓨팅이 만든 기회

새로운 죄수의 딜레마 : 프론티어 모델 API 서비스? 교차검증으로 본 AI 기업들의 기묘한 밸류

기업의 가치를 가르는 새로운 지표 : 애플리케이션을 파괴한 AI, AGAIN 'Pax Americana'

게빈 베이커 Gavin Baker

2026년 5월 20일, Atreides Management CIO

자본주의 역사상 가장 빠른 성장

ARR $50B, 딥시크 먼데이, AI Labs의 컴퓨트, 일론이 가진 초능력

패트릭 오쇼네시 Patrick O'Shaughnessy : 올해 3~5월까지 최근 3개월 동안 어떤 일들이 있었는지에 대한 얘기로 시작하면 좋을 것 같습니다.

​

게빈 베이커 Gavin Baker : 최근 AI 분야에서 벌어지고 있는 일은 자본주의 역사상, 그리고 미국 비즈니스 역사상 가장 이례적인 순간에 가깝다고 생각합니다. 앤스로픽은 한 달 사이에 ARR을 $11B나 추가했습니다. 이게 얼마나 말이 안 되는 숫자인지 보려면 기존 SaaS 기업들과 비교해보면 됩니다.

​

지난 10~12년 동안 시장에서 가장 상징적인 SaaS 기업으로 자리 잡은 회사들을 꼽아보면 팔란티어(Palantir), 스노우플레이크(Snowflake), 데이터브릭스(Databricks)가 있습니다. 이 기업들은 모두 10년이 넘는 시간을 들여 지금의 비즈니스를 만들었습니다. 그런데 앤스로픽은 이 세 기업의 비즈니스를 모두 합친 것과 비슷한 규모를 단 한 달 만에 추가한 셈입니다.

​

​

제 커리어 안에서만 특이한 일이 아니라 자본주의의 역사와 비즈니스의 역사 전체를 놓고 봐도 이런 사례는 거의 없었다고 봅니다. 말 그대로 전례가 없는 속도입니다. 테크 투자자들 사이에서는 S-Curve나 지수함수적 성장에 투자해야 한다는 이야기가 자주 나옵니다. 하지만 저는 지금까지 이 정도로 극단적인 지수함수적 성장을 본 적이 없습니다. 심지어 2025년 딥시크 때와 비교해도 이번 상황이 훨씬 더 강하게 느껴졌습니다.

​

2025년으로 돌아가 보면 딥시크로 인해 AI 관련주에서 거대한 매도세가 나왔습니다. 그런데 당시 시장 반응은 매우 이상했습니다. 왜냐하면 이른바 '딥시크 먼데이'가 오기 7일 전에 이미 논문이 공개되어 있었기 때문입니다.

더 중요한 것은 딥시크 먼데이 시점에는 이것이 컴퓨트 수요 측면에서 역사상 가장 긍정적인 사건이 될 수 있다는 점이 이미 상당히 분명했다는 것입니다. 거래일이 시작되기 전, 주말 사이에 이미 아시아 지역 AWS 가용 영역의 가격은 이미 두 배로 뛰고 있었습니다. GPU 가용성은 빠르게 줄어들고 있었습니다. 

​

그리고 이때가 바로 우리가 처음으로 Reasoning 모델이 Non-Reasoning 모델보다 얼마나 더 많은 컴퓨트를 소비하는지 직접 목격한 순간이었습니다. 그로부터 2~3일 정도 지나자 미국에서도 GPU 가격, 정확히는 GPU 임대 가격이 오르기 시작했습니다. 시장은 처음에는 이것을 AI 투자에 부정적인 사건으로 해석했지만 실제로는 정반대였습니다. 추론 수요가 폭발적으로 늘어날 수 있다는 첫 번째 강력한 증거였기 때문입니다.

​

이번 2026년 3월에도 해야 했던 일은 비슷했습니다. 앤스로픽에서 실제로 무슨 일이 벌어지고 있는지를 있는 그대로 관찰하는 것이었습니다. 코로나 때 매수하지 못한 것을 후회하는 사람들, 2022년 저점에서 매수하지 못한 것을 후회하는 사람들, 2025년 딥시크 먼데이 때 매수하지 못한 것을 후회하는 사람들이 많습니다. 그런데 2026년 4월 초에도 시장은 다시 그런 밸류에이션 구간까지 내려왔습니다. 그리고 이번에는 AI 변곡점이 훨씬 더 명확했습니다. 제대로 볼 수만 있다면 AI에 투자할 기회는 계속해서 주어지고 있습니다.

​

물론 당시 상황을 더 복잡하게 만든 변수도 있었습니다. 바로 호르무즈 해협 이슈였습니다. 저는 이 부분에서도 시장이 잘못 생각하고 있는 점이 있다고 봤고, 지금도 그렇게 생각합니다. 저는 매크로 전문가가 아닙니다. 다만 관련 전문가들과 대화할 기회가 있었고, 그 대화를 바탕으로 보면 호르무즈 해협이 폐쇄되는 상황은 직관과 달리 미국에게 상대적으로 매우 유리한 이벤트(awesome for america)가 될 수 있습니다.

​

패트릭 오쇼네시 : 왜죠?

​

게빈 베이커 Gavin Baker : 특히 현재 행정부가 무엇을 목표로 하고 있는지를 기준으로 보면, 이 점은 더 분명해집니다. 전기는 산업과 제조업에서 가장 중요한 투입 요소 중 하나입니다. 그리고 AI 인프라로 연결되는 미국 전기 가격에서 가장 중요한 투입 요소는 천연가스입니다. 

​

블룸버그에서 G1으로 표시되는 미국 천연가스 가격을 보면, 호르무즈 해협 봉쇄 우려가 부각된 이후 오히려 20% 하락했습니다. 반대로 아시아와 유럽을 포함한 다른 지역의 천연가스 가격은 두 배, 세 배까지 뛰었습니다. 다시 말해 미국의 상대적인 제조업 경쟁력은 거의 하룻밤 사이에 개선된 셈입니다.

​

투자자들이 이 방향을 좋아하느냐 싫어하느냐는 중요하지 않습니다. 중요한 것은 이것이 트럼프 행정부가 실제로 중요하게 보는 지점처럼 보인다는 것입니다. 이들은 미국의 절대적인 상황보다 미국의 상대적인 위치에 매우 집중하고 있습니다. 많은 투자자들은 1970년대 에너지 위기의 기억을 떠올렸던 것 같습니다. 하지만 1970년대를 정말 고통스럽게 만들었던 것은 단순히 에너지 가격이 올랐다는 사실만이 아니었습니다. 실제로 가스가 부족했습니다. 공급 부족이 있었습니다. 지금은 그때와 다릅니다.

​

또 하나 중요한 차이가 있습니다. 현재 미국 경제는 과거보다 훨씬 덜 에너지 집약적인 구조가 되었습니다. 같은 GDP를 만들기 위해 필요한 에너지 투입량이 과거보다 크게 줄었습니다. 동시에 미국은 이제 세계 최대의 석유 및 가스 생산국입니다. 그리고 세계 최대의 석유 및 가스 수출국이기도 합니다. 여기에 앞서 말한 상대적인 제조업 우위까지 더해졌습니다. 미국은 에너지 가격 측면에서 다른 지역보다 훨씬 유리한 위치에 있고, 이는 제조업과 AI 인프라 모두에 중요한 의미를 가집니다.

​

이런 배경 덕분에 저는 AI의 펀더멘털에 계속 집중하기가 더 쉬웠다고 생각합니다. 동시에 시장이 역사적으로 매우 매력적인 밸류에이션을 제공하고 있다는 점에도 주목할 수 있었습니다. 상대적인 기준으로 보면, 테크 업종은 지난 10년 중 어느 시점과 비교해도 전체 시장 대비 거의 가장 저렴한 수준까지 내려왔습니다. 그런데 바로 그 시점에 자본주의 역사상 가장 이례적인 AI 성장 이벤트가 벌어지고 있었습니다.

​

앤스로픽의 성장, Reasoning 모델의 컴퓨트 수요, GPU 임대 가격의 상승, AI 추론 수요의 폭발 가능성이 모두 같은 방향을 가리키고 있었습니다. 그런데 시장은 매크로 우려와 에너지 이슈 때문에 AI 관련 자산을 매우 매력적인 밸류에이션에 살 수 있는 기회를 다시 한 번 제공했습니다.

​

패트릭 오쇼네시 : 이 트렌드를 가장 잘 보여주는 자산이 앤스로픽고 오픈AI의 밸류에이션이라곤 하는데, 이들의 멀티플을 과거 Snowflake, Databricks와 비교해볼 때 어느 정도 수준이라고 봐야 할까요?

​

게빈 베이커 Gavin Baker : 자본 효율성이라는 관점에서 보면, 오픈AI와 앤스로픽은 꽤 다른 종류의 기업이라고 생각합니다. 가장 큰 차이는 토큰당 비용입니다. 앤스로픽은 오픈AI보다 토큰당 추론 비용이 명백하게, 그리고 상당히 낮습니다. 이 부분은 복잡하게 설명할 필요도 없습니다. 두 회사가 비슷한 매출 규모에 도달하기까지 얼마만큼의 자금을 소진했는지를 보면 바로 드러납니다.

​

앤스로픽은 오픈AI보다 훨씬 적은 자본을 태우면서 비슷한 수준의 매출 규모에 도달했습니다. 대략적으로 보면, 앤스로픽은 오픈AI보다 약 80% 적은 자금을 소진한 것으로 보입니다. 이 말은 두 회사가 같은 AI 모델 회사처럼 보여도 실제 비즈니스의 자본 효율성은 상당히 다르다는 뜻입니다. 같은 매출을 만들기 위해 필요한 컴퓨트 비용, 인프라 비용, 운영 비용의 구조가 다르다는 것입니다.

​

결국 비즈니스 관점에서 보면 두 회사는 구조적으로 다른 ROIC를 가지고 있다고 봐야 합니다. 오픈AI는 훨씬 더 큰 브랜드, 훨씬 더 큰 제품 생태계, 훨씬 더 넓은 소비자 접점을 가지고 있습니다. 반면 앤스로픽은 더 낮은 비용 구조와 더 높은 자본 효율성을 보여주고 있습니다. 

​

물론 오픈AI도 이 문제를 모르고 있을 리는 없습니다. 저는 오픈AI의 CFO인 사라 프라이어가 매우 뛰어난 CFO 중 한 명이라고 생각합니다. 그렇기 때문에 오픈AI 역시 토큰당 비용을 낮추고, 인프라 효율성을 개선하고, 비즈니스의 자본 효율성을 끌어올리기 위해 상당히 많은 노력을 하고 있을 것이라고 봅니다.

​

*코멘트 → 여긴 사실 가장 큰 문제가 ChatGPT WAU 9억 명 중 적어도 8억 5천만 명 분량의 쿼리에 대해서는 무료로 제공하고 있다는 게 문제입니다. 그래서도 올해 오픈AI가 꼭 광고모델을 도입 성공시켜야 하는 이유이기도 합니다.

​

패트릭 오쇼네시 : 앤스로픽이 최근 컴퓨팅이 부족하다고 하는데, 그건 어떻게 보세요?

​

게빈 베이커 Gavin Baker : 결과적으로 보면 오픈AI가 맞았던 것입니다. 오픈AI가 2025년 하반기에 매우 공격적으로 컴퓨트를 확보했던 판단은 이제 실질적인 해자로 작동하고 있음이 증명되고 있습니다. 

​

당시에는 "너무 과하게 쓰는 것 아니냐"는 시각도 있었지만, 지금 와서 보면 AI 모델 기업에서 가장 중요한 병목은 결국 컴퓨트였습니다. 좋은 모델을 만드는 것도 중요하지만 그 모델을 실제 사용자에게 안정적으로 서빙할 수 있어야 합니다. 그리고 수요가 폭발하는 구간에서는 단순히 모델 성능이 아니라 누가 더 많은 GPU를 확보했고 누가 더 낮은 비용으로 더 많은 토큰을 처리할 수 있는지가 경쟁력의 핵심이 됩니다.

​

이 관점에서 보면 최근 앤스로픽의 기업가치가 약 $900B 수준이라는 것도 여전히 낮아 보입니다. 물론 절대적인 숫자만 보면 매우 큰 기업가치입니다. 하지만 현재 ARR이 약 $50B이고 YoY 1,000%에 가까운 속도로 성장하는 기업이라는 점을 감안하면 이야기가 달라집니다. 이 정도 성장률은 일반적인 소프트웨어 기업의 고성장 국면과도 비교하기 어렵습니다. 말 그대로 말이 안 되는 속도로 성장하고 있습니다.

​

더 중요한 것은 지금의 앤스로픽 매출이 수요의 상한이 아니라 공급의 제약 아래에서 만들어진 숫자란 것입니다. 만약 앤스로픽이 원하는 만큼의 컴퓨트를 모두 확보하고 있었다면, 오늘날 ARR은 $100B를 훨씬 넘어섰을 수 있습니다. 극단적으로는 $150B 수준까지도 가능했을지 모릅니다. 왜냐하면 지금 앤스로픽은 수요가 부족해서 성장이 제한되는 것이 아니라, 컴퓨트가 부족해서 성장이 제한되는 상황에 가깝기 때문입니다. 쉽게 말하면, 팔고 싶어도 충분히 팔 수 없는 상태입니다.

​

심지어 지금 Claude는 원래 낼 수 있는 지능을 온전히 발휘하는 방식으로 서빙되고 있지 않고 있습니다. 컴퓨트 제약 때문에 모델의 답변당 출력 토큰 수를 줄여서 제공하고 있습니다. 일부 분석에 따르면 Opus 모델조차 동일한 질문에 대해 생성하는 토큰 수가 이전보다 약 70% 줄어든 것으로 보입니다.

​

*코멘트 → 단순히 답변이 짧아졌다는 의미만이 아닙니다. Reasoning 모델에서 토큰은 어느 정도 사고의 단위에 가깝습니다. 더 많은 토큰을 쓴다는 것은 더 많은 중간 단계, 더 많은 검증, 더 긴 추론 과정을 거칠 수 있다는 뜻입니다.

​

패트릭 오쇼네시 : 앤스로픽은 그럼 ARR이 $150B라고 치고 $3T 시가총액에 $100B 조달을 추진해볼 수도 있을텐데 왜 그렇게는 안 하는 걸까요?

​

게빈 베이커 Gavin Baker : 이것이 오히려 현명한 선택이기 때문이라 생각합니다. 그때그때 적당한 밸류에이션으로 자금조달하는 것이 모두를 위해 중요합니다. 미래는 여전히 불확실합니다. 그리고 AI Labs는 분명히 매우 자본 집약적인 게임을 하고 있습니다. 모델을 훈련시키는 데도 막대한 비용이 들어가지만 이제는 좋은 모델을 만든 뒤 실제 사용자에게 서빙하는 추론 인프라에서도 엄청난 컴퓨트가 필요합니다.

​

그럼에도 앤스로픽의 경우 오늘날 추론 비즈니스에서 이미 상당히 긍정적인 매출총이익률(대략 추정으로는 추론 GPM이 70%~75%일 것으로 예상됩니다)을 기록하고 있을 가능성이 높다고 봅니다. 다시 말해 앤스로픽은 AI Labs임에도 불구하고 이미 돈을 벌고 있는 기업일 수 있습니다. 물론 실제로 아직 완전한 이익 구간에 들어서지 않았다고 하더라도, 적어도 올해 안에는 이익을 내기 시작할 가능성이 높아 보입니다. 아마 그때쯤에 더 좋은 밸류로 받을 수 있어서 미뤘을 수도 있을 겁니다.

​

이 대목에서 일론 머스크를 생각해볼 필요가 있습니다. 일론 머스크가 왜 이렇게 여러 개의 거대한 사업을 동시에 벌일 수 있다고 생각하십니까? 핵심은 그가 오랜 기간 투자자들에게 돈을 벌어다 주었다는 점입니다. 일론은 이것을 거의 신성한 계약처럼 대합니다. 투자자에게 돈을 벌어다 주는 것, 초기 투자자들이 실제로 큰 수익을 얻게 만드는 것을 매우 중요하게 생각합니다.

​

그 결과 그는 일종의 초능력을 얻게 되었습니다. 지난 20년 동안 반복적으로 투자자들에게 돈을 벌어다 주었기 때문에 이제 그는 원할 때 사실상 원하는 만큼의 자본을 조달할 수 있는 위치에 있습니다.

​

*코멘트 → 조금 더 자세하게 생각해보면 게빈 베이커가 하려는 말은,

​

AI는 앞으로도 엄청난 자본이 필요한 산업이고, 앞으로 더 큰 모델, 더 많은 데이터센터가 필요하다.

누가 가장 좋은 모델을 만들었느냐만큼, 누가 가장 신뢰받는 자본 조달 능력을 가지고 있느냐가 중요하다.

그런 의미에서 초기 투자자들에게 수익을 안겨주고, 시장과의 신뢰를 쌓고, 필요할 때마다 거대한 자본을 조달할 수 있는 위치를 만드는 것이 현명한 전략이다. AI Labs의 경쟁력은 모델 성능만이 아니라, 장기적으로 자본을 조달할 수 있는 능력에서도 결정될 수 있다는 의미로 해석했습니다.

​

패트릭 오쇼네시 : 스페이스X 같은 기업의 가치를 꾸준히 체계적으로 낮게 책정하는 것 말인가요?

​

게빈 베이커 Gavin Baker : 핵심은 밸류에이션에 대해 절대 욕심을 부리지 않는 것입니다. 밸류에이션을 무리하게 밀어붙이지 않는 것입니다. 단순하지만 매우 중요합니다. 너무 높은 밸류에이션을 받아내는 것은 당장은 창업자와 회사에 유리해 보일 수 있습니다. 하지만 장기적으로 보면 투자자들이 돈을 벌기 어려워지고, 다음 라운드의 부담이 커지고 회사와 자본시장 사이의 신뢰가 약해질 수 있습니다.

​

제 친구 안토니오는 스페이스X가 지난 10년 동안 매년 30%대 초반의 복리 수익률로 성장해왔다고 지적했습니다. 저는 이것이 우연이 아니라고 생각합니다. 일론 머스크는 자신이 가진 그 자본 조달의 초능력을 유지하는 데 매우 집중해왔습니다. 그리고 그 과정에서 투자자와 직원 사이의 균형을 비교적 맞추려고 했다고 봅니다.

​

*코멘트 → 이것도 생략된 표현이 많긴 한데, 회사가 너무 낮은 밸류에이션을 받으면 직원과 기존 주주에게 불리할 수 있습니다. 반대로 너무 높은 밸류에이션을 받으면 신규 투자자들이 돈을 벌기 어려워집니다. 장기적으로 계속 자본을 조달해야 하는 기업이라면 이 균형을 맞추는 것이 매우 중요합니다.

병목 그리고 버블의 운율

와트와 웨이퍼 - 궤도 데이터센터와 만인의 호국신산 'TSMC'

패트릭 오쇼네시 : 결국 핵심 질문은 와트와 웨이퍼입니다. 얼마나 많은 전력을 확보할 수 있는가 그리고 얼마나 많은 최첨단 반도체를 생산할 수 있는가, 이 두 가지가 AI 인프라 확장의 속도를 결정하는 가장 중요한 병목입니다. 지금 이 시점에서 이 두 가지를 어떻게 보고 계신지 궁금합니다. AI 인프라 구축의 핵심 투입 요소인 전력과 웨이퍼에 대해 현재 어떤 생각을 가지고 계십니까?

​

게빈 베이커 Gavin Baker : 규제와 정치적 반발이 크게 발생하지 않는다면, 저는 자본주의가 결국 전력 부족 문제를 해결할 것이라고 생각합니다. 물론 전력 병목으로 실제로 데이터센터를 못 지을 가능성도 열어놓고 생각은 합니다. 대형 사모펀드인 블랙스톤, 아폴로, KKR 중 한 곳에서 데이터센터 인프라 투자를 총괄하는 사람과 이야기한 적이 있습니다.

​

그는 2024~2025년까지만 해도 에너지와 칩이 가장 큰 제한 요인이었지만 올해부터는 용도지역 지정과 인허가가 훨씬 더 중요한 제약 요인이 되었다고 말했습니다. 데이터센터를 어디에 지을 수 있는지, 해당 지역에서 허가가 나는지, 지역사회와 정치권의 반발을 어떻게 통과할 수 있는지가 점점 더 중요해지고 있습니다.

​

또 많은 기업들이 인력 감축이나 비용 절감 같은 민감한 조치를 중간선거 이후로 미루고 있는 것으로 보입니다. 선거 기간에는 누구도 정치적 공격의 표적이 되고 싶어 하지 않기 때문입니다. 이런 요소들이 AI 인프라 투자에도 간접적으로 영향을 줄 수 있습니다.

​

다만 장기적으로 보면 저는 여전히 자본주의가 이 문제를 해결할 가능성이 높다고 봅니다. 이미 터빈을 만드는 많은 기업들이 생산 능력을 크게 늘리겠다는 계획을 발표하고 있습니다. 물론 여기에도 현실적인 병목은 있습니다. 이 거대한 터빈 블레이드를 만들 수 있는 특수 장비는 많지 않습니다. 어떤 경우에는 사실상 두 개 기업 정도밖에 없다고 볼 수도 있습니다.

​

서구권에서는 지난 수십 년 동안 이런 장비를 대규모로 만들지 않았습니다. 80년 가까이 제대로 만들지 않았기 때문에, 이제는 제조 노하우 자체가 희미해진 부분도 있습니다. 설계도만 있다고 바로 만들 수 있는 문제가 아닙니다. 소재, 정밀 가공, 열처리, 품질 관리, 장비 운용 경험이 모두 필요합니다. 이런 장치들에 들어가는 산업공학적 복잡성과 장인정신을 결코 과소평가하지 않습니다. 이건 단순한 금속 부품을 찍어내는 일이 아닙니다. 엄청난 온도와 압력을 견디는 정밀 기계 시스템을 만드는 일입니다.

​

그럼에도 자본주의는 시간이 지나면 이런 병목을 해결하는 데 매우 강합니다. 가격 신호가 생기고, 수요가 충분히 크고, 자본이 몰리면 공급망은 결국 확장됩니다. 처음에는 느리고 비효율적으로 보일 수 있지만 시간이 지나면 생산 능력은 늘어나고 병목은 완화됩니다. 그리고 가스터빈들 외에도 다른 에너지원들이 있습니다. 따라서 전력 부족 문제는 아마도 2027년이나 2028년쯤 완화되기 시작할 것으로 생각합니다.

​

그리고 그 이후에는 궤도 컴퓨팅(orbital compute)이 이를 진정으로 해결할 것이라고 봅니다. 다만 저는 여기서 궤도 컴퓨팅에 대한 프레임을 다시 잡고 싶습니다. 지난번에 우주 데이터센터라는 표현을 사용했을 때 많은 사람들은 우주에 펜타곤만 한 거대한 건물을 띄우는 그림을 상상했을 것입니다. 그러면 당연히 말이 안 된다고 느낄 수 있습니다. 하지만 실제 개념은 그런 것이 아닙니다. 우주에 거대한 데이터센터 건물을 짓는다는 뜻이 아닙니다. 훨씬 더 단순하게 생각해야 합니다. 랙 하나를 우주에 올리는 것입니다.

​

사람들은 그런 건 불가능하다고 생각합니다. 하지만 실제로는 그렇지 않습니다. Blackwell 랙의 무게는 3,000파운드(약 1.36t)이며, 높이는 8피트(약 2.4m)입니다. 깊이는 4피트, 너비는 3피트입니다. 우주에 랙을 두는 것입니다. SpaceX가 보여준 일러스트를 보면 그것은 하나의 랙입니다. 그것이 바로 위성입니다.

​

하지만 크기는 아마도 Blackwell 랙 하나 정도의 크기일 것입니다. 여기에는 양쪽에 각각 500피트(약 150m) 길이의 태양광 날개가 달려 있습니다. 이를 태양 동기 궤도에 유지하므로 그 태양광 패널들은 항상 태양 빛을 받게 됩니다. 그리고 정확히 태양 동기 궤도에 있기 때문에 그 뒤로 수백 피트 뻗어 있는 방열판은 항상 그늘에 가려지게 됩니다.

​

 

*코멘트 → 마침 어제 스페이스X가 궤도 컴퓨팅의 첫 제품이 어떤 구조일지를 공개했습니다. "AI1"입니다. 날개까지 다 하면 70m, 피크 컴퓨트 150kW, 모듈형태로 교체 가능하고, 양쪽으로 대형 태양광 패널로 구성되어 있습니다. 궤도 고도는 600km이며 프로토타입은 2개를 2027년 초 발사 예정입니다.

​

패트릭 오쇼네시 : 흔한 비판은 어떻게 거기까지 그 무게를 보내겠냐는 얘기가 많은데요.

​

게빈 베이커 Gavin Baker : 저는 지난 몇 년 동안 Starbase에서 시간을 보낸 적이 있고, 많은 SpaceX 엔지니어들과 대화할 기회가 있었습니다. 제 생각에 그들은 지구상에서 가장 뛰어난 엔지니어 집단 중 하나입니다. 그리고 이 궤도 컴퓨팅 문제에 대해서만큼은 그들이 이미 상당 부분 해결했다고 매우 강하게 확신하고 있다는 인상을 받았습니다.

​

그들이 모든 문제에 대해 항상 그렇게 확신에 차 있는 것은 아닙니다. 예를 들어 Starship을 실제 화성 개척용 수송선으로 전환하려면 여전히 해결해야 할 공학적 과제가 많다고 봅니다. 궤도 재급유, 장기 생명유지, 반복적인 대형 화물 운송, 착륙과 재사용성 등 아직 해야 할 일이 남아 있습니다. 물론 장기적으로 그들이 그것을 해낼 것이라고는 생각합니다.

​

하지만 그 문제와 비교하면, 궤도 컴퓨팅은 그들이 훨씬 더 자신 있게 바라보는 영역처럼 보였습니다. 그렇다면 지금 그들이 더 집중하고 있는 문제는 무엇일까요? 제 생각에는 단순히 랙을 궤도에 올리는 것 자체보다, 궤도 데이터센터의 수리와 유지보수 문제일 가능성이 높습니다.

​

*코멘트 → 여기도 이 지점까지만 말했어서, 추가적인 내용을 더하자면: 지구 데이터센터에서는 서버가 고장 나면 사람이 들어가서 교체하면 됩니다. 랙 단위, 서버 단위, GPU 단위로 점검하고 부품을 바꿀 수 있습니다. 하지만 우주에서는 그렇게 할 수 없습니다. 한 번 궤도에 올린 컴퓨팅 랙이 고장 났을 때 어떻게 진단할 것인지, 어떤 부품을 교체할 수 있을 것인지, 로봇으로 수리할 것인지, 아니면 모듈 전체를 교체할 것인지가 핵심 문제가 됩니다. 올리는 건 쉬운데 현실적으로 유지보수가 문제입니다.

​

패트릭 오쇼네시 : 아시다시피 방열판 문제와, 랙에 어떤 문제가 발생했을 때 어떻게 수리할 것인가 하는 이 두 가지가 가장 큰 반응입니다.

​

게빈 베이커 Gavin Baker : 아마 그 질문에 대한 답은 이렇습니다. 우주 공간에서 작업할 수 있는 옵티머스 같은 로봇을 갖추기 전까지는 기본적으로 수리하지 않는 것입니다.

​

저는 스타쉽이 우리가 지금 상상하기 어려운 방식으로 우주 경제를 바꿀 것이라고 생각합니다. 특히 지상 데이터센터에서 규제가 가장 큰 제약 요인이 된다면 기존의 한계들은 훨씬 덜 중요해질 수 있습니다. 용도지역 지정, 인허가, 송전망, 지역사회 반발 같은 문제들이 데이터센터 확장의 병목이 된다면 가능한 만큼 많은 궤도 컴퓨팅을 만들어서 판매하려는 수요가 생길 수밖에 없습니다.

​

그리고 이 랙들을 서로 연결하는 방식은 당연히 레이저가 될 것입니다. 진공 상태를 통과하는 레이저 링크를 사용하는 것입니다. 이 기술은 이미 스타링크 위성에 탑재되어 있습니다.

​

SpaceX가 전 세계 위성의 약 98~99%에 해당하는 가장 큰 위성 군단을 운영하고 있다는 사실은 정말 놀랍습니다. 이들은 이미 오늘날 모든 스타링크 위성을 우주에서 운영하고 있고, 냉각하고 있으며, 통신망으로 연결하고 있습니다. 스타링크 V3는 약 20kW 수준에서 작동할 것으로 보입니다. 반면 Blackwell 랙 하나는 약 100kW 수준입니다. 사람들은 AI 데이터센터에서 밀도에 대해 많은 이야기를 합니다. 하지만 우주에서는 밀도를 바라보는 방식이 달라질 수 있습니다.

​

지상 데이터센터에서는 랙을 최대한 촘촘하게 배치해야 합니다. 랙과 랙 사이를 구리 케이블로 연결해야 하고, 가능하면 케이블 길이를 줄여야 하며, 구리로 감당이 안 되는 구간에서만 광케이블을 써야 합니다. 케이블링 자체가 큰 비용이고 신호 지연과 전력 손실도 문제가 되기 때문입니다. 그래서 지상에서는 랙의 물리적 크기와 배치가 매우 중요합니다. 하지만 우주에서는 다릅니다. 진공 상태에서 레이저로 랙들을 연결할 수 있다면 랙의 물리적 크기를 반드시 지상 데이터센터처럼 작게 만들 필요가 없습니다. 우주에서는 부피보다 무게가 더 중요한 제약입니다. 얼마나 작게 압축하느냐보다 얼마만큼의 질량을 궤도에 올릴 수 있느냐가 핵심입니다.

​

SpaceX는 이미 그 누구보다 많은 위성을 운영하고 있습니다. 이미 20kW급 위성을 운용하고 있습니다. 그렇다면 첫 단계에서는 이를 60kW 수준으로 확장하는 것이 목표가 될 수 있습니다. 그리고 그들은 곧바로 100~120kW 수준까지 갈 수 있다고 상당히 자신하는 것처럼 보입니다.

​

또 중요한 점은, 같은 회사가 이제 지구상에서 가장 큰 데이터센터 중 하나도 운영하고 있다는 것입니다. SpaceX와 xAI는 로켓, 위성, 전력, 냉각, 하드웨어, 데이터센터 운영을 모두 실제로 다루고 있습니다. 그리고 이들은 세계 최고의 하드웨어 엔지니어 집단을 보유하고 있습니다.

​

물론 회의론은 존재합니다. 하지만 제 생각에는 많은 비판이 탁상공론에 가깝습니다. 실제로 이런 문제를 직접 풀어본 사람들의 회의론과, 멀리서 보기만 하는 사람들의 회의론은 다릅니다. 래리 엘리슨의 말을 굳이 인용하고 싶지는 않지만, 누군가 일론 머스크의 계획에 회의적인 태도를 보였을 때 래리는 대략 이렇게 말했습니다. "보십시오. 일론은 실제로 로켓을 착륙시키고 있습니다. 다른 누구도 그렇게 하고 있지 않습니다." 그리고 10년이 지난 지금도 현실은 크게 다르지 않습니다. 궤도급 로켓을 안정적으로 착륙시키고 재사용할 수 있는 기업은 사실상 SpaceX 외에는 없습니다. 이 점이 핵심입니다. 재사용성이 없다면 이 모든 계획은 작동하지 않습니다. 경제성이 나오지 않습니다. 결국 로켓을 착륙시켜야 합니다.

​

*참고로, 게빈 베이커의 아트레이디스 매니지먼트는 전체 AUM의 20% 가량을 스페이스X에 투자한 상태입니다. 따로 인터뷰에서는 말해주지 않아서 참고하시라고 전해드립니다.

​

저는 궤도 컴퓨팅을 우주에 떠 있는 거대한 펜타곤 크기의 데이터센터가 아니라, '우주에 있는 랙'으로 재정의하고 싶습니다. 결국 데이터센터의 본질은 하나의 거대한 건물이 아닙니다. 컴퓨팅 자원, 전력, 냉각, 네트워크가 연결된 시스템입니다. 이 시스템을 지상에서는 건물 안에 구현합니다. 하지만 우주에서는 랙 단위의 컴퓨팅 노드들을 레이저로 연결해 하나의 가상 데이터센터처럼 구성할 수 있습니다.

​

패트릭 오쇼네시 : 만약 그럼 모든 것이 순조롭게 진행되어 실제로 궤도 컴퓨팅이 구축되고 우주 전역에서 행렬곱을 수행하는 데 능숙해진다고 가정해봅시다. 그럼 그랬을 경우 지상의 데이터센터는 어떤 의미를 갖게 될까요?

​

게빈 베이커 Gavin Baker : 누군가 이런 말을 한 적이 있습니다. 미국은 얻을 수 있는 모든 에너지원을 최대한 빨아들일 것이라고 말입니다. 저는 컴퓨트에서도 똑같은 일이 벌어질 것이라고 생각합니다. 우리는 사용할 수 있는 만큼 최대한 많은 컴퓨트를 소비하게 될 것입니다. 바로 이 점 때문에 저는 예전보다 온디바이스 AI가 데이터센터 수요를 잠식할 것이라는 하락 시나리오를 덜 걱정하게 되었습니다.

​

특히 추론은 궤도 컴퓨팅에 매우 잘 맞는 영역이라고 생각합니다. 반면 훈련은 오랫동안 지구상에서 이루어질 가능성이 높습니다. 대규모 훈련은 초저지연 네트워크, 안정적인 운영 환경, 대규모 클러스터 관리, 데이터 접근성, 유지보수 측면에서 여전히 지상 데이터센터가 훨씬 유리하기 때문입니다.

​

그래서 저는 궤도 컴퓨팅이 지상 데이터센터에 엄청난 악재라고 생각하지 않습니다. 지상 데이터센터는 제가 살아 있는 동안에는 계속해서 가치 있는 자산일 것입니다. AI 훈련, 대규모 추론, 엔터프라이즈 워크로드, 데이터 저장과 처리 모두 여전히 지상 인프라를 필요로 합니다.

​

다만 전력 생산과 냉각 생태계에 있는 기업들은 이 문제를 깊게 생각해볼 필요가 있습니다. 특히 지금 생산 능력을 대대적으로 늘리고 있는 기업이라면 더 그렇습니다. 만약 그 생산 능력이 본격적으로 늘어나는 시점이, 그동안 궤도 컴퓨팅을 비웃던 회의론자들이 '이게 생각보다 진짜일 수 있겠다'고 깨닫기 시작하는 시점과 겹친다면 어떻게 될까요. 그런 기업에 투자하고 있거나 그런 산업에 속해 있다면 이 변화가 장기 수요에 어떤 영향을 줄지 상당히 오랫동안 고민해볼 필요가 있습니다.

​

전력 문제에 대해서는 이미 자본주의가 해결을 향해 움직이고 있습니다. 가격 신호가 생기고, 수요가 커지고, 자본이 몰리면서 발전 설비와 전력 인프라 확장이 시작되고 있습니다.

​

AI 수요는 특정한 형태의 컴퓨트 하나만으로 끝나는 것이 아닙니다. 디바이스에서 처리할 수 있는 것은 디바이스에서 처리하고, 데이터센터에서 처리해야 하는 것은 데이터센터에서 처리하며, 시간이 지나면 궤도 컴퓨팅 같은 새로운 형태의 인프라까지 동원하게 될 가능성이 높습니다. 결국 인간은 사용 가능한 컴퓨트를 거의 끝까지 소비하게 될 것입니다.

​

 

*코멘트 → 이 위까지는 와트(전력)에 대한 내용에 답한 것입니다. 이제 웨이퍼에 대한 내용입니다.

​

하지만 웨이퍼 문제는 다릅니다. 여기에는 TSMC가 있습니다. TSMC는 대만 경제에서 압도적인 비중을 차지합니다. 대만의 GDP, 물 사용량, 전력 사용량에서 매우 큰 부분을 차지하고 있습니다. 그리고 TSMC 사람들은 모두 자신들을 모리스 창의 신성한 유산을 이어받은 후계자처럼 생각하는 것 같습니다.

​

저는 20년 전쯤 대만의 사이언스 파크를 방문해 그들과 대화했던 기억이 있습니다. 당시 저는 그들에게 인텔을 따라잡을 수 있다고 생각하느냐고 물었습니다. 그들은 이렇게 답했습니다. "그것은 너무나 아름다운 꿈입니다. 하지만 아마 우리 손주 세대에나 가능한 꿈일 것입니다." 그런데 결국 그들은 해냈습니다. 물론 인텔이 스스로 자초한 실수들이 큰 도움을 준 것도 사실입니다. 하지만 그럼에도 TSMC가 실제로 인텔을 넘어섰다는 사실은 변하지 않습니다. 이들은 정말 다르게 생각하는 조직입니다.

​

젠슨 황이 대만으로 그렇게 자주 날아가는 이유 중 하나도 여기에 있습니다. 그는 TSMC가 생산 능력을 더 확장하기를 원합니다. 엔비디아 입장에서는 TSMC의 웨이퍼 공급이 곧 매출의 상한이기 때문입니다. 그리고 놀라운 점은, 젠슨 황이 TSMC와 공식적인 장기 계약서를 작성한 적이 없다는 사실입니다. 그들은 공정하다고 여겨지는 악수만으로 비즈니스를 해왔습니다. 이 점은 정말 매혹적인 스토리입니다. 계약서가 없습니다. 대신 시간이 지나면 서로에게 공정한 결과가 나올 것이라는 믿음이 있습니다. 우리는 파트너이고, 서로에게 공정하게 행동할 것이라는 신뢰가 있습니다. 현대 반도체 공급망에서 이런 방식이 가능하다는 것 자체가 매우 특이합니다.

​

하지만 여기서 중요한 진실이 하나 있습니다. AI와 같은 새로운 기술의 기반 인프라가 구축되었던 과거의 모든 시장 사례를 보면 거의 항상 버블이 있었습니다. 칼로타 페레즈가 이 주제에 대해 훌륭한 책을 썼습니다. 기본적으로 시장은 어느 정도 효율적입니다. 시장은 새로운 기술이 정말 근본적인 변화라는 점을 정확하게 알아봅니다.

​

그 다음에는 마이클 모부신이 말하는 '다양성의 붕괴'가 일어납니다. 처음에는 다양한 의견이 존재합니다. 어떤 사람은 낙관적이고, 어떤 사람은 회의적입니다. 그런데 시간이 지나면서 점점 더 많은 사람이 이 새로운 기술에 대해 낙관적으로 변합니다. 의견의 다양성이 사라지고, 모두가 같은 방향을 보기 시작합니다.

​

그때 버블이 옵니다.

​

그리고 그 버블은 이 새로운 기술의 인프라 구축에 자금을 공급합니다. 철도, 운하, 전기, 통신망, 인터넷 모두 비슷한 흐름을 겪었습니다. 문제는 어느 순간 공급이 수요를 앞지르게 된다는 점입니다. 그러면 폭락이 찾아옵니다. 특히 2000년처럼 부채를 기반으로 인프라가 과도하게 구축된 경우 그 폭락은 훨씬 더 심각해집니다. 부채는 버블이 커질 때는 성장을 증폭시키지만 꺼질 때는 파산과 강제 매각을 통해 하락도 증폭시킵니다.

​

그런데 현재 AI 인프라 구축에서 제가 정말 다행이라고 생각하는 점이 하나 있습니다. 여전히 압도적인 자금이 영업현금흐름에서 나오고 있다는 것입니다. 이것은 2000년 인터넷 버블과 비교할 때 매우 중요한 차이입니다. 밸류에이션도 다릅니다. 2000년 당시에는 많은 기업들이 실질적인 현금흐름 없이 엄청난 밸류에이션을 받았습니다. 반면 오늘날 AI 인프라 투자의 중심에 있는 빅테크 기업들은 실제로 막대한 현금흐름을 창출하고 있습니다.

​

사용률도 다릅니다. 과거 광섬유 버블 당시에는 깔아놓은 광섬유의 99%가 사용되지 않았습니다. 반면 지금은 모든 GPU가 사실상 100% 가동률로 돌아가고 있습니다. 공급이 남아도는 것이 아니라 수요를 감당하지 못하는 상태입니다. 이처럼 현재 AI 사이클은 2000년과 다른 근본적인 차이점이 많습니다. 자금 조달 구조도 다르고, 수요의 실체도 다르고 자산의 활용률도 다릅니다.

​

역사는 그대로 반복되지는 않더라도 운율은 반복됩니다. 

​

투자자로서 우리는 이 점을 매우 잘 인식하고 있어야 합니다. 인터넷 버블만 보더라도 그렇고 더 길게 보면 지난 200~300년 동안 철도 버블과 운하 버블도 있었습니다. 새로운 범용기술이 등장하고 → 시장이 그것의 중요성을 알아보고 → 인프라 투자가 폭발하고 → 결국 어느 시점에는 버블이 생기는 패턴은 반복되어 왔습니다. 그래서 우리도 버블 가능성을 예상해야 합니다. 그리고 그것은 무서운 일입니다. 아무도 버블을 원하지 않습니다. 버블은 끔찍합니다.

​

버블이 끔찍한 이유는 단순히 주가가 나중에 하락하기 때문만이 아닙니다. 밸류에이션에 민감한 투자자라면 버블 국면에서 엄청나게 저조한 성과를 낼 수 있습니다. 너무 비싸다고 생각해서 참여하지 않으면, 시장은 계속 올라가고 고객들은 인내하지 못합니다. 결국 모든 고객에게서 해고당할 수도 있습니다. 그래서 버블은 투자자에게 매우 어려운 환경입니다. 옳은 판단을 하더라도 타이밍이 맞지 않으면 살아남기 어렵습니다.

​

저는 지금까지 대만 TSMC가 사실상 통제하고 있는 웨이퍼의 근본적인 쇼티지가 버블을 막아줄 것이라고 비교적 낙관해왔습니다. AI 수요가 아무리 강해도 TSMC가 만들 수 있는 웨이퍼 수가 제한되어 있다면, 공급이 수요를 과도하게 앞지르는 상황까지 가기 어렵기 때문입니다. 만약 TSMC가 젠슨 황이 원하는 만큼 모두 공급해주었다면, NVIDIA는 2026년이나 2027년에 $2T, 어쩌면 $2.5T, 극단적으로는 $3T어치의 GPU를 판매할 수도 있었을 것이라고 생각합니다.

​

하지만 어느 지점에서는 소비자들이 너무 많이 소비하게 됩니다. 너무 많은 GPU를 사고, 너무 많은 데이터센터를 짓고 너무 많은 인프라를 약정하게 됩니다. 그러면 결국 과잉 구축 상태에 빠질 수 있습니다. 따라서 우리가 이번 AI 사이클에서 진짜 버블을 겪지 않게 된다면 TSMC를 위해 파티를 열어줘야 한다고 생각합니다. 왜냐하면 TSMC가 사실상 단독으로 버블을 막아낸 것이나 다름없기 때문입니다.

​

그런데 이제 변화가 보이기 시작합니다. 기업들이 인텔과 삼성으로 향하기 시작하고 있습니다. 역사의 법칙 중 하나는 인텔이든 삼성파운드리든 둘 중 하나는 언젠가 공급을 늘리고 싶은 유혹을 참지 못할 가능성이 높다는 것입니다. 어느 쪽일지는 모르겠습니다. 하지만 둘 중 하나는 자제력을 잃고 공급 확장에 나설 수 있습니다.

​

그리고 어느 한쪽이 무너지면 어느 시점에는 다른 모든 플레이어도 그 흐름에 끌려 들어가게 됩니다. 한 기업이 공격적으로 생산 능력을 늘리기 시작하면 경쟁사들도 가만히 있을 수 없습니다. 고객들도 제2공급원을 원하고, 정부도 공급망 다변화를 원하며, 자본시장도 성장 스토리를 원합니다.

​

따라서 이 모든 일의 상당 부분은 TSMC가 인텔과 삼성에 대해 얼마나 큰 우위를 유지할 수 있는지에 달려 있을 수 있습니다. TSMC가 충분한 기술 격차와 생산 우위를 유지한다면 공급 확장은 일정한 균형 안에서 관리될 수 있습니다. 버블이 어디까지 와 있는지를 보기 위해 단 하나만 지켜봐야 한다면 저는 TSMC의 생산 능력 결정이라고 말하겠습니다.

​

핵심은 골디락스 존입니다. TSMC가 생산 능력을 너무 적게 늘리면 AI 수요를 제대로 충족하지 못하고, 고객들은 인텔과 삼성 같은 대체 공급원을 더 강하게 찾게 됩니다. 반대로 TSMC가 생산 능력을 너무 많이 늘리면 공급이 수요를 앞지르면서 버블의 토대가 만들어질 수 있습니다.

​

이상적인 시나리오는 TSMC가 적절한 수준으로 생산 능력을 확장하는 것입니다. 인텔이나 삼성이 30%를 훨씬 웃도는 점유율을 가진 거대한 제2공급원으로 부상하기 어렵게 만들 정도로는 충분히 확장해야 합니다. 동시에 웨이퍼에 대한 근본적인 제약은 계속 유지되어야 합니다. 그래야 과잉 구축과 버블을 피하는 데 도움이 됩니다. 테라팹 역시 이 균형에 영향을 줄 것입니다. 테라팹이 실제로 어느 정도 속도로 올라오고 어느 공정에서 얼마나 많은 유효 생산 능력을 제공하느냐에 따라 AI 웨이퍼 쇼티지의 강도와 지속 기간이 달라질 수 있습니다.

​

결국 AI 버블의 핵심 변수는 단순히 수요가 얼마나 강한지가 아닙니다. 공급이 얼마나 빨리, 얼마나 많이 풀리느냐입니다. 그리고 그 중심에는 여전히 TSMC의 생산 능력 결정이 있습니다.

​

패트릭 오쇼네시 : 테라팹에 대해서 좀 더 말씀해주시겠어요?

​

게빈 베이커 Gavin Baker : 미국에 세계 최대 규모의 팹을 짓기 위한 조인트벤처가 만들어졌습니다. 저는 이 시도가 성공할 가능성이 높다고 생각합니다. 가장 중요한 이유 중 하나는 인텔과의 파트너십입니다. 인텔은 여러 번 실수했고 최첨단 파운드리 경쟁에서 TSMC에 뒤처진 것도 사실입니다. 하지만 그렇다고 해서 인텔이 가진 50년 이상의 반도체 제조 지식이 사라진 것은 아닙니다.

​

인텔은 여전히 최첨단 기술에서 완전히 벗어난 회사가 아닙니다. 대략 최선단 대비 9~12개월 정도 뒤처진 수준의 기술과 제조 경험을 가지고 있습니다. 이는 엄청난 자산입니다. 반도체 제조는 단순히 돈을 넣고 장비를 사오면 되는 일이 아닙니다. 공정 통합, 수율 개선, 장비 운영, 결함 분석, 소재 관리, 팹 운영 경험이 모두 필요합니다. 인텔은 이 모든 영역에서 축적된 제도적 지식을 가지고 있습니다.

​

또 하나 중요한 점은 테라팹이 모든 반도체 전공정 장비 기업들의 에이스 팀을 끌어들일 가능성이 높다는 것입니다. TSMC가 과거 인텔을 따라잡을 수 있었던 큰 이유 중 하나도 여기에 있습니다. ASML, KLA, Lam Research, Applied Materials 같은 장비 기업들이 TSMC의 추격을 원했습니다.

​

장비 기업들은 단일 고객에게 지나치게 의존하는 구조를 좋아하지 않습니다. 인텔 하나가 지나치게 강한 수요 독점자가 되는 상황은 장비 기업들 입장에서도 좋은 구도가 아닙니다. 더 강한 두 번째 고객,  더 많은 경쟁, 더 다양한 수요처가 생기는 것이 장비 기업들에게도 유리합니다. 그래서 장비 기업들의 에이스 팀들이 대만으로 갔습니다. TSMC와 함께 문제를 풀었고 공정을 최적화했고 수율을 끌어올렸습니다. 그 사이 인텔은 몇 가지 중대한 실수를 저질렀고 그렇게 어느 순간 전세가 빠르게 역전되었습니다.

​

이번에도 비슷한 일이 일어날 수 있다고 생각합니다. 특히 일론 머스크가 하드웨어 공학 분야에서 가진 명성은 매우 강력합니다. 반도체 장비 기업들의 최고 팀들이 관심을 가질 가능성이 높습니다. 결국 테라팹은 두 가지 중요한 축을 확보하고 있습니다. 하나는 인텔이 가진 반도체 제조의 제도적 지식입니다. 다른 하나는 ASML, KLA, Lam Research, Applied Materials 같은 장비 기업들의 최고 인력과 지원을 끌어들일 수 있는 가능성입니다.

​

정치적으로도 이 프로젝트는 매우 강력한 명분을 가지고 있습니다. 미국 내 최첨단 반도체 제조 역량을 확대하는 것은 어느 행정부에서든 중요한 목표가 될 수밖에 없습니다. AI, 국방, 에너지, 제조업, 공급망 안보를 모두 관통하는 문제이기 때문입니다.

​

동시에 이것이 TSMC를 완전히 소외시키는 방식으로 진행되지는 않을 것이라고 봅니다. 기존 방식과는 분명히 다릅니다. TSMC의 현재 모델을 단순히 복제하는 것이 아니라, 미국 내에서 새로운 형태의 초대형 팹 인프라를 구축하려는 시도에 가깝습니다. 테라팹은 TSMC와 정면으로 충돌한다기보다 미국이 AI 시대에 필요한 웨이퍼 병목을 완화하기 위해 새롭게 시도하는 별도의 축으로 봐야 합니다. 성공한다면 AI 인프라의 가장 중요한 제약 중 하나였던 최첨단 웨이퍼 공급 문제를 완화하는 데 큰 역할을 할 수 있습니다.

​

패트릭 오쇼네시 : 리드타임이 긴 일이라 생각되는데, 테라팹에서 어떤 AI 가속기를 찍어내건 본격적으로 찍어내는 시점은 지금으로부터 꽤 오랜 시간이 걸린 후라고 생각됩니다.

​

게빈 베이커 Gavin Baker : 머스크는 다르게 처리하곤 하기에, 두고 보면 알게 될 거라 봅니다.

정액제 → 종량제

통신 사이클과 반대, 파레토 프론티어 변화, 분산 컴퓨팅이 만든 기회

패트릭 오쇼네시 : 앞서 DeepSeek를 언급하셨는데, 당시 사람들의 반응은 상당히 단순했습니다. "이제 중국 오픈소스 모델이 등장했고, 이를 활용하거나 증류하면 아주 적은 비용으로도 기존 최첨단 모델 성능의 95% 수준까지 도달할 수 있게 된 것 아닙니까. 그렇다면 우리가 하려는 대부분의 작업에는 굳이 가장 비싼 모델을 쓸 필요가 없어지는 것 아닙니까.” 사람들은 DeepSeek를 보면서 AI 모델의 비용 구조가 빠르게 무너질 것이라고 생각했습니다.

​

하지만 실제 현실은 그와 꽤 다르게 흘러가고 있는 것 같습니다. 모델 비용은 낮아지는 부분도 있지만, 동시에 더 강한 모델을 더 많이 쓰려는 수요가 훨씬 빠르게 늘어나고 있습니다. 궁금한 점은 이 부분인데, DeepSeek 당시 시장이 생각했던 단순한 결론과 지금 실제로 벌어지고 있는 현실 사이에는 왜 이런 불일치가 발생하고 있다고 보십니까?

​

게빈 베이커 Gavin Baker : 모델 레이어에서 AI가 만들어내는 경제적 수익의 압도적인 대부분이 여전히 프론티어 모델 영역에서 발생하고 있다는 점은 정말 흥미롭습니다. 저에게도 놀라운 일이었고, 아마 많은 사람들에게도 놀라운 일이었을 것입니다.

​

저는 이것이 지금 AI 투자자들이 반드시 답해야 할 가장 중요한 질문 중 하나라고 생각합니다. (1) 앞으로도 프론티어 모델의 토큰이 모델 레이어에서 창출되는 경제적 가치의 대부분을 계속 가져갈 것인가, 아니면 (2) 시간이 지나면서 오픈소스 모델, 증류 모델, 더 저렴한 모델들이 그 가치를 상당 부분 잠식하게 될 것인가, 투자자라면 이 질문에 대해 반드시 자신만의 가설을 가지고 있어야 합니다.

​

참 신기한 것은, Gemini 3 Pro가 처음 나왔을 때 저는 그 모델이 너무 훌륭해서 완전히 압도당했던 기억이 있다는 점입니다. 그런데 오늘날 그 모델은 도저히 쓰기 어려운 수준이 되었습니다. 프론티어 모델의 기준이 그만큼 빠르게 올라가고 있다는 뜻입니다. 물론 기업들이 프론티어 모델로 먼저 프로토타입을 만든 뒤, 실제 서비스로 배포할 때는 Vertex AI나 오픈소스 모델을 사용하는 역학도 어느 정도 존재할 수 있습니다. 처음에는 가장 좋은 모델로 제품 가능성을 검증하고 이후에는 비용 효율적인 모델로 내려오는 방식입니다.

​

*코멘트 → 개인적으로는 일간보고 및 주간전략보고로 꾸준히 생각을 정리드렸었지만,

​

Gemini 3.0 Pro는 상대적으로 당시 GPT 및 Claude에 비해서 성능이 매우 뛰어난 수준은 아니었고 오히려 Agentic AI에서 중요한 파운데이션 모델 자체의 환각과 장시간 추론 능력에서 일관성을 유지하는 능력이 떨어졌던 모델이었습니다. 오히려 GPT와 Claude 대비 격차가 더 컸던 것은 Gemini 2.5 Pro이었다고 생각합니다. 당시엔 뚜렷한 파레토 프론티어가 있었습니다.

그리고 모델은 Gemini 3.0 Pro였는데, 인프라는 TPU v6e 기반으로 서비스했었고 구글이 Gemini 구독자를 늘리려고 애쓰던 때입니다. 안드로이드의 기본 앱으로 Gemini를 탑재하고, 크롬에서도 웬만하면 Gemini가 불러지도록 UX를 손봤었습니다. 그렇게 퍼널을 짜고 나니 상당한 요청이 들어오긴 했는데 결국 컴퓨팅은 한정되어 있고 서비스는 다 처리해야하니 지금 Claude가 하는 것과 비슷한 것을 했습니다. output token을 크게 낮춰서 실질적으로 서비스하는 모델은 다른 모델 수준이 되게끔 설정했던 것입니다.

​

그럼에도 현재 움직일 수 없는 사실은 하나입니다. 모델 레이어에서 발생하는 경제적 수익의 압도적인 대부분은 여전히 프론티어 모델의 토큰에서 나오고 있습니다. 그리고 이 흐름이 계속될 것인지는 매우 흥미로운 질문입니다. 저는 Gemini 3.1과 Opus를 직접 사용해보면서 이 문제에 대해 훨씬 더 열린 마음을 갖게 되었습니다. Grok 4.3도 사용하고 있는데, 이 모델 역시 파레토 프론티어에 올라와 있다고 봅니다. 여기서 말하는 파레토 프론티어는 단순히 모델이 똑똑한지만 보는 것이 아닙니다. 지능 대비 비용, 즉 같은 비용으로 얼마나 높은 지능을 제공하느냐를 보는 개념입니다.

​

*코멘트 → 곳곳에서 사실 아트레이디스가 실제 개발자들의 컨센이나 벤치마크로 보이는 것들에 비해서, 스페이스X에 굉장히 긍정적인 바이어스를 갖고 있음을 느끼실 수 있기에 따로 위에 포지션에 대해서 미리 말씀드렸습니다.

​

*코멘트 → 6월 1일 주간전략보고에서 전해드린 것처럼, 벤치맥싱으로 가려지지 않는 맨얼굴인 'Petri behavioral audit scores'가 가장 현실적이라고 생각합니다. 위 차트의 내용에서 가장 중요했던 건 네 가지입니다.

​

전반적으로 앤스로픽 > 오픈AI입니다. 다만 차이가 있다면 평가받는 상태임을 인지하는 정도가 GPT는 낮고, 앤스로픽은 높습니다. 이건 일부러 GPT가 '시키는대로 그대로 해줄 것'에 초점을 맞추고 있기 때문입니다. Codex는 실제로 하나하나 잘 시키면 성과가 매우 뛰어나고, Claude Code는 알아서 잘해주는 Agent로 평가받습니다. 나머지는 인간의 오용에 협조하는 정도나, 사용자를 기만하는 것이나, 아부/아첨을 하는 정도, 사용자의 망상을 조장하는 정도도 모두 앤스로픽 > 오픈AI입니다.

사실 더 중요한 건 요즘 계속 말씀드리는 부분이긴 하지만 앤스로픽 > 오픈AI 경쟁구도가 중요한 게 아니라, 앤스로픽/오픈AI와 그 나머지 AI Labs들간의 격차가 훨씬 더 크게 벌어지고 있다는 것입니다. 

구글은 이제 여러갈래로 확인하더라도 Tier 1.5~2 AI Labs가 됐습니다. Gemini 3.1 Pro 및 Gemini 3.5 Flash가 Grok 4.3 수준과 전반적으로 비슷합니다.

현재 중국 내의 Tier 1 AI Labs로 꼽을 수 있는 게 Kimi K2.6입니다. Kimi K2.5(1월 27일 출시) 당시에는 적어도 Gemini > Kimi K2.5 > Grok이었습니다. 그런데 이번에 출시 Kimi K2.6(4월 20일 출시)부터는 Kimi K2.6 > Gemini > Grok이 됐습니다. 상당한 차이입니다.

중국 오픈소스 진영 대부분은 엔비디아를 가져다가 모델을 훈련하고 있으므로 중국의 부상은 엔비디아의 강세와도 비슷합니다. 이건 4월 27일 주간전략보고에서 DeepSeek-V4-Pro에서도 전해드린 바 있습니다.

​

AI Labs를 분석할 때 저는 이 지표가 가장 중요하다고 생각합니다. 모델이 얼마나 똑똑한가도 중요하지만, 그 지능을 얼마의 비용으로 제공할 수 있는지가 결국 비즈니스의 핵심이기 때문입니다.

​

이 관점에서 보면 지난번에 이야기했던 변화가 매우 중요합니다. 구글은 브로드컴으로부터 주도권 일부를 되찾기 위해 TPU v8에서 상당히 보수적인 설계 결정을 내렸습니다. 반면 엔비디아는 계속해서 공격적인 선택을 이어갔습니다. 그 결과 구글은 토큰당 비용 측면에서의 리더십을 잃게 되었습니다. 과거에는 지능 대비 비용의 파레토 프론티어를 구글이 지배하고 있었습니다. 9개월 전만 해도 오픈AI, 앤스로픽은 파레토 프론티어의 거의 모든 지점에서 구글보다 아래에 있었습니다. 구글이 더 낮은 비용으로 더 높은 지능을 제공하는 위치였습니다.

​

*코멘트 → 근데 이것도 사실 Agentic AI로 오면서는 기업들이 토큰 가격에 무뎌진 상태입니다. 실제 생산물이 나오는 경지에 오르니까 2배를 준다고 해도 더 완성도 높은 output을 받는 게 더 경제적인 선택지이기 때문입니다. 6월 1일 주간전략보고의 AI Dark Output에서 전해드린 얘기이기도 한데, Dark output의 원리를 이해하면 적용은 쉽습니다. 풀어서 정리해보면 이렇습니다.

​

결국 모든 건 얼마의 input을 넣어서 얼마의 output을 냈는가가 핵심입니다. Agentic AI 이전에는 $10짜리 output만 할 수 있었으니 토큰 input cost가 GPT/Claude는 $2일 시절에 Gemini는 $1이라고 하면 50% 저렴하니 '파레토 프론티어에서 앞서간다!'가 마케팅 구호로 먹히던 시기입니다. $2을 넣어서 $10정도의 가치가 있을 결과물을 뽑느냐, $4를 넣어서 $10을 뽑느냐의 싸움이었기 때문입니다.

그러나 오픈AI와 앤스로픽은 2024년 9월 Test-time compute를 발견했을 때부터 Agentic AI에 맞는 모델을 빌드하고 있었었습니다. Agentic AI를 위한 파운데이션 모델에서 가장 중요한 건 multi-step thinking을 앞두고 하나의 step당 환각률이 얼마가 되느냐가 중요합니다. 반도체 수율과도 같은 게임입니다. 한 번의 생각당 5%의 확률로 환각을 일으킨다고 보면, 정확도가 95%인 셈입니다. 이를 32번 반복하면 최종 결과물은 정확도 19%짜리 답을 하게 됩니다. 0.95^32 = 0.1937(19.4%)입니다. 한 번의 생각당 0.5%의 확률로 환각을 일으킨다고 보면, 정확도가 99.5%입니다. log-scale급의 노력을 기울여야 하는 셈입니다. 그리고 99.5%를 32번 반복하면 최종 결과물은 정확도가 85%가 됩니다. 0.995^32 = 0.8518(85.2%)입니다.

결과적으로 앤스로픽이 먼저 2025년 5월 Claude Code 1.0 Preview를 출시했고, 2025년 9월에는 Claude Code를 GA했습니다. 이 이후 context length가 크게 길어지고 앤스로픽의 ARR이 높아지는 속도에 발맞춰 메모리 수요가 크게 증가했던 것입니다. 결과적으로 Agentic AI 덕에 모델의 지능이 높아지며 할 수 있는 작업의 단가가 높아지니 이제는 시간당 $100~$1000짜리 일을 할 수 있게 됐습니다.

Claude/GPT는 결과적으로 이전보다 백만 토큰당 5배 비싼 돈인 $10을 받더라도 결과적으로 사용자 입장에서는 이제 $100~$1000 정도의 가치가 있는 작업을 할 수 있게 해주니 더 이득인 효과가 됩니다. Gemini로는 이 작업이 사실상 불가능하거나 output의 퀄리티가 많이 차이가 나다보니 채택되지 않고 있습니다. Dark Output의 핵심은 input만 측정할 수 있으니 이것을 가지고 주가가 빠질 때마다 '이정도 돈을 썼으면 부담이지 않을까?'라고 생각할뿐 실제 AI의 output 측면에 대해서는 그 가치를 평가하기 어렵다보니 노이즈가 생기는 것이라 생각합니다.

​

하지만 지금은 상황이 달라졌습니다. 현재 파레토 프론티어는 앤스로픽과 오픈AI가 지배하고 있습니다. 반면 Gemini 3.1은 파레토 프론티어에 간신히 매달려 있는 수준입니다.

​

​

패트릭 오쇼네시 : 모델 주변의 다른 혁신적인 부분들에 대해 어떻게 생각하시는지 궁금합니다. 특히 지속적 학습(continual learning)과 메모리는 사람들이 우리가 진입하게 될 또 다른 새로운 패러다임을 만들어낼 수 있는 요소로 가장 집중하고 있는 두 가지로 보입니다. 이 두 가지 요인의 역할에 대해 어떻게 생각하십니까?

​

게빈 베이커 Gavin Baker : 우리가 하네스, 즉 모델을 둘러싼 실행/제어 시스템을 통해 메모리 영역에서 이미 많은 것을 해냈다고 생각합니다. 그리고 하네스 엔지니어링 능력이 모델 자체만큼 중요하다고 말할 수는 없겠지만 이것이 정말 결정적인 역할을 한다는 점은 점점 더 분명해지고 있습니다.

​

현재 이런 모델들에서 하네스는 모델과 점점 더 함께 개발되고 있습니다. 하네스가 무엇을 하는지 가장 쉽게 설명하자면, 모델이 작동하는 일종의 런타임 환경이라고 보면 됩니다. 모델이 어떤 도구를 사용할 수 있는지 정리하고, 컨텍스트와 메모리, 상태를 관리하며, 매우 구체적인 프롬프트와 지침을 부여하는 역할을 합니다. 이런 기능은 단순한 버전만으로도 엄청난 차이를 만들어냅니다. 같은 모델이라도 어떤 하네스 위에서 작동하느냐에 따라 결과물의 품질과 활용성이 크게 달라질 수 있습니다.

​

제가 지난번 이 방송에 나왔을 때, "투자자로서 직관을 얻기 위해서는 매달 $20짜리 유료 AI 제품을 직접 결제해서 써보는 것이 매우 중요하다"고 여러 번 강조했던 기억이 납니다. 하지만 이제는 그 정도로는 오늘날 프론티어 AI가 실제로 무엇을 할 수 있는지 이해하기 어려워졌습니다. 이제는 설령 코딩을 하지 않는 사용자라 하더라도 Claude Code나 Codex 같은 도구를 써봐야 합니다. 그리고 가능하면 기업용 요금제에 접근할 수 있어야 합니다. 그 이유는 구글이 비용 리더십을 잃으면서 나타난 또 다른 변화와 관련이 있습니다. AI 모델들이 빠르게 사용량 기반 요금제로 전환되고 있기 때문입니다.

​

만약 매달 $20, $300 수준의 정액 요금제에 머물러 있다면 상당히 강한 속도 제한을 받게 됩니다. 본질적으로는 지능이 일부러 낮춰진 버전의 AI를 쓰고 있는 셈입니다. 앞서 말했듯이 Claude는 이제 이전보다 약 70% 적은 토큰을 생성하고 있습니다. 그런데 Claude와 그 하네스 시스템이 좋은 답변을 내기 위해 필요하다고 판단하는 토큰을 온전히 사용하려면, 결국 사용량 기반 요금제를 써야 합니다.

​

이 흐름은 AI 산업 전체에는 엄청난 호재입니다.

​

저는 2005년부터 2007년까지 통신 애널리스트로 일했습니다. 당시 모바일 통신은 지난 10년 동안 매우 강한 성장 산업이었습니다. 그 이유 중 하나는 정액 요금제와 사용량 기반 요금제가 결합되어 있었기 때문입니다. 예를 들어 900분까지는 고정 요금을 내고 이를 초과하면 사용한 만큼 추가 요금을 내는 방식이었습니다. 그렇다면 모바일 통신이 위대한 성장 산업으로서의 막을 내린 시점은 언제였을까요. 모두가 무제한 요금제를 쓰기 시작하면서부터였습니다. 국제전화도 마찬가지였습니다.

​

지금 AI는 반대로 움직이고 있습니다. 무제한 요금제에서 ​'쓴 만큼 지불하는' 구조로 바뀌고 있습니다. 그리고 사람들은 AI를 사용하는 것을 정말 좋아합니다. 과거 사람들이 국제전화로 친구들과 이야기하는 것을 좋아했고, 전화 통화 자체를 좋아했던 것처럼 말입니다. 특히 이제는 한 사람이 100개의 에이전트를 동시에 돌릴 수 있는 시대가 되고 있기 때문에 AI 사용량은 더 빠르게 늘어날 수 있습니다.

​

따라서 사용량 기반 요금제로의 전환은 오픈AI와 앤스로픽의 ARR을 올해 $200B를 훨씬 넘어서는 수준까지 끌어올릴 수 있다고 봅니다. 더 많은 컴퓨트 자원이 온라인될뿐만 아니라 기업용 사용량 기반 모델을 통해 프론티어 토큰의 가격을 더 높게 받을 수 있기 때문입니다. 물론 세상 전체의 관점에서는 다소 씁쓸한 면도 있습니다. 이 비용을 감당할 수 없는 사람이나 기업은 프론티어 기술의 최첨단에 서기 어려워진다는 뜻이기 때문입니다.

​

*코멘트 → 이 부분도 요즘 생각이 많긴 합니다:

​

SemiAnalysis의 Dylan Patel도 그렇고 공통적으로 지적하는 부분이 바로 '높아지는 토큰 비용을 감당할 수 있을 만한 사람/기업인가?'입니다. 정확히는 input이 바뀐다는 관점인 '토큰 비용이 높아지는 구조'라기보다 가능한 output이 바뀐다는 관점인 '더 높은 부가가치를 생산할 수 있는 사람으로 계속해서 진화하는 개인/조직/기업/국가가 살아남을 수 있다'는 의미입니다.

위의 Agentic AI 파트에서 말씀드린 것처럼 누군가가 시간당 얼마의 부가가치를 생산하고 있는가, 그리고 토큰을 더 많이 쓴다고 하면 더 많은 부가가치를 생산할 수 있는가에 대한 레버리지가 있는 사람인가로 인해서 ⓐ백만 토큰당 $50인 Fable 5를 쓸 것인가, ⓑ$30/$25인 GPT-5.5/Opus 4.8을 쓸 것인가, ⓒ$12인 Gemini 3.1 Pro를 쓸 것인가, ⓓ$2.5인 Grok 4.3을 쓸 것인가가 나뉘기 때문입니다.

​

다음으로는 지속적 학습(continual learning)에 대해 이야기해 보겠습니다. 

​

만약 우리가 지속적 학습 문제를 제대로 해결한다면 그것은 정말 엄청난 일이 될 것입니다. 이 문제를 어떻게 이해해야 할까요. 인간의 정신에는 아직도 수많은 미스터리가 남아 있습니다. 인간은 AI에 비해 훨씬 적은 샘플만으로 학습하는 매우 샘플 효율적인 학습자입니다. AI가 학습에 사용하는 데이터의 양과 비교하면 인간의 학습 효율은 몇 자릿수, 아니 여러 자릿수 이상 차이가 납니다.

​

물론 오늘날 AI에도 원시적인 형태의 지속적 학습 비슷한 것은 존재합니다. 검증 가능한 영역에서 중간 학습 과정에 적용되는 강화학습 같은 방식이 그렇습니다. 하지만 이것은 진정한 의미의 지속적 학습과는 다릅니다. 진정한 지속적 학습이란 모델이 실시간으로 자신의 가중치를 동적으로 조정하거나, 인간처럼 경험을 통해 즉각적으로 스스로를 바꿔나가는 것을 의미합니다.

​

예를 들어 제가 처음 불에 손을 댔다면, 저는 단 한 번의 경험만으로 다시는 불에 손을 넣으면 안 된다는 것을 배웁니다. 하지만 오늘날의 AI 모델은 그렇지 않습니다. 지금의 AI는 불에 손을 백만 번은 집어넣어야 할 수도 있습니다. 그것도 개발자들이 다음 학습 회차나 강화학습 환경 안에 불이라는 경험을 효과적으로 배치해줘야 겨우 배울 수 있습니다. 결국 핵심은 실시간으로 가중치를 동적으로 업데이트할 수 있느냐입니다. 모델이 배포된 이후에도 경험을 통해 계속 학습하고 그렇게 배운 내용을 자신의 내부 구조에 반영할 수 있어야 합니다.

​

다행히 사람들은 이를 넘어서는 매우 영리한 기술들을 연구하고 있는 것으로 보입니다. 만약 우리가 지속적 학습을 제대로 마스터하게 된다면 그때부터는 정말 빠른 도약이 시작될 수 있습니다. 그리고 많은 전문가들은 지속적 학습이 생각보다 훨씬 가까이 와 있다고 보고 있습니다.

​

*코멘트 → 이 부분은 가장 뛰어난, 가장 먼 미래를 보는 앤스로픽 CEO 다리오 아모데이의 인터뷰를 전해드린 바 있었습니다. 다리오의 생각은 지속적 학습이 곧 해결될 것이라고 생각하지만 사전훈련의 일반화와 강화학습의 일반화 과정을 통해서 자연스레 그 단계에 도달할 수 있을 것이며, 일반화 + in-context learning을 통해서 지속적 학습이 없더라도 충분히 상당한 수준의 지능을 가진 모델이 나올 것으로 예상했습니다.

​

패트릭 오쇼네시 : 이 모든 과정에서 새로운 칩 회사들의 역할은 무엇입니까? 우리는 엔비디아와 TSMC, 인텔과의 관계 등에 대해 많은 이야기를 나눴습니다. 현재 이 병목 현상의 일부를 해결하기 위해 새로운 칩을 만들려는 시도가 말 그대로 수천 개의 꽃이 피어나듯 진행되고 있다고 생각합니다.

​

게빈 베이커 Gavin Baker : 저는 새로운 칩 회사들이 많이 등장하는 것이 세상 전체에 매우 좋고 건강한 일이라고 생각합니다. 젠슨 황에게도 좋은 일입니다. 다른 행정부라면 지금과는 다른 관점을 가질 수도 있기 때문입니다. 기본적으로 경쟁은 모두에게 유익합니다.

​

전차 설계에서는 '철의 삼각지대'라는 표현을 씁니다. 모든 전차 설계자는 공격력, 방어력, 기동성 사이에서 반드시 트레이드오프를 선택해야 합니다. 이유는 명확합니다. 장갑을 두껍게 해서 방어력을 높이면 전차는 더 무거워집니다. 그러면 기동성이 떨어집니다. 반대로 기동성을 높이려면 장갑이나 화력을 일부 포기해야 할 수 있습니다. 결국 모든 전차 설계자는 이 삼각형 안에서 살아가야 합니다.

​

예를 들어 이스라엘의 메르카바 전차는 방어력에 더 최적화된 설계입니다. 반면 러시아 전차나 독일의 레오파르트 같은 전차들은 대체로 기동성에 더 큰 비중을 둔 설계라고 볼 수 있습니다.

​

칩 설계도 본질적으로 똑같습니다.

​

TSMC의 설계 규칙 안에는 물리 법칙이 강제하는 근본적인 제약들이 들어 있습니다. 선폭, 전력 밀도, 배선, 메모리 대역폭, I/O, 수율 같은 제약들이 존재합니다. 칩 설계자는 그 제약 안에서 살아가야 합니다. 결국 모든 설계는 트레이드오프의 선택입니다. 여기에 TPU, Trainium, AMD 같은 플레이어들이 있습니다. 이들은 본질적으로 모두 '더 나은 GPU'가 되려고 노력하고 있습니다. 더 정확히 말하면, 엔비디아 GPU가 하는 일을 더 낮은 비용으로, 더 높은 효율로, 혹은 특정 워크로드에서 더 잘해내려는 시도입니다.

​

*코멘트 → 칩을 설계할 때 어떤 부분들을 고려하는지, 힌트를 얻으실 수 있는 자료는 <AI 가속기 심화편 : GPU vs TPU, 무엇이 칩을 다르게 만드나 (feat. CPU, ASIC, FPGA)>에서 보실 수 있습니다.

​

현재로서는 ​Trainium이 가장 잘하고 있다고 봅니다. 물론 아무도 엔비디아보다 더 나은 범용 GPU를 만들기는 어렵습니다. 하지만 Trainium은 적어도 슈퍼맨의 망토를 잡아당기는 수준까지는 와 있다고 생각합니다. 엔비디아라는 압도적인 강자에게 실제로 도전장을 내밀 수 있는 위치에 가까워지고 있다는 뜻입니다.

​

그리고 아직 본격적인 게임은 시작되지도 않았습니다. Trainium 3이 본격적으로 양산에 들어가야 하기 때문입니다. 엔비디아 외의 Trainium 3을 중요하게 보는 이유는 거대 MoE 모델을 매우 경제적으로 추론하는 데 필요한 Switched Scale-up Network를 갖추고 있기 때문입니다. 대형 MoE 모델에서는 매번 모든 파라미터를 쓰는 것이 아니라 토큰마다 필요한 전문가 네트워크를 선택해서 사용합니다. 이 구조에서는 연산도 중요하지만, 어떤 전문가로 토큰을 보내고 다시 모을 것인지, 그리고 그 과정에서 칩과 칩 사이의 통신을 얼마나 효율적으로 처리할 것인지가 매우 중요해집니다. 그래서 Scale-up Network가 핵심입니다.

​

*코멘트 → Switched Scale-up Network가 거대모델 MoE 추론에서 특히 상당한 TCO 대비 퍼포먼스를 보인다는 것과 그 원리에 대해서는 <LLM 추론 토큰 가격의 비밀 : MoE의 시대, 엔비디아 NVL72가 중요한 이유>에서 전해드렸습니다

​

조금 더 정리하자면, MoE가 이론적으로 아껴주는 compute 비용을 '실제 토큰 처리량'으로 손실 없이 환전해주는 유일한 네트워크 구조가 Switched Scale-up Network이기 때문입니다.

​

A-to-Z, 자세한 버전으로 정리하자면:

MoE는 활성 파라미터만 연산하니 compute는 드라마틱하게 줄지만 그 대가로 Expert Parallelism이 필수가 됩니다. 전문가들이 여러 GPU에 흩어져 있으니 매 토큰, 매 레이어마다 라우터가 토큰을 임의의 GPU로 보냈다가 다시 받아오는 all-to-all 통신이 발생합니다. 여기서 결정적인 성질이 하나 있는데 all-to-all은 전체 속도가 가장 느린 경로에 의해 결정된다는 점입니다. sparsity를 아무리 깎아서 연산을 아껴도 통신 대기시간이 길면 그 절감분이 전부 통신에서 증발해버립니다. 즉 MoE의 경제성은 모든 GPU-to-GPU가 균일하게 빠른가에 달려 있습니다.

NVL72는 어떤 GPU에서 다른 어떤 GPU로도 자기 GPU → NVSwitch → 목적지 GPU의 단 2 hop으로 도달합니다. 가장 느린 경로라는 약점 자체가 사라집니다. 반면 Torus 방식의 연결(TPU 계열, Trainium 2까지는 Trn도 Torus)은 목적지에 따라 hop 수가 달라지고, 랙을 벗어나면 약 8배 느린 Scale-out을 타야 합니다. 랙 2개에 전문가를 걸치면 토큰의 절반이 느린 길로 가고 전체 추론이 그 속도에 발목 잡힙니다.

decode는 순차 작업이라 hop에서 생기는 몇 ms가 토큰마다 누적됩니다. 토큰 하나가 20ms에서 30ms가 되면 같은 하드웨어의 시간당 토큰 생산량이 1/3 깎이는 것이고, 이는 곧 백만 토큰당 비용이 50% 비싸진다는 뜻입니다. TCO는 하드웨어 비용은 그대로인데 산출되는 토큰 수가 달라지는 구조라, hop 제거 = 같은 돈으로 더 많은 토큰 = TCO 대비 퍼포먼스 개선으로 직결됩니다.

Scale-up 도메인이 크다는 것도 Hopper 8-GPU 구조에서 Blackwell 72-GPU로 오면서 매우 크게 개선된 것이기는 한데, 이것 자체는 원래 TPU가 OCS를 통해서 Pod 단위를 굉장히 일찍 쓰고있었다보니 이 파트는 사실 엔비디아가 구글 TPU 계열에 비해서 더 유리한 걸 꼽을 때 자신할 파트는 아닙니다.

​

많은 기업들은 Torus 아키텍처를 사용하고 있습니다. 구글이 있던 자리도 여기에 가깝습니다. AMD는 아직 지켜봐야 합니다. MI450이 어느 정도 성능을 낼지는 아직 잘 모릅니다. 아마 현재로서는 MI450보다 Trainium 3에 대해 우리가 더 많은 정보를 가지고 있을 것입니다.

​

*코멘트 → TPU v8t/v8i 아키텍처에 대해서는 4월 27일 주간전략보고에서 정리드린 바 있습니다.

​

하지만 이것은 정말 어려운 게임입니다. 단순히 더 나은 GPU를 만들겠다고 해서 이길 수 있는 게임이 아닙니다. 그러려면 무언가 다른 것을 해야 합니다. 그리고 다르게 하되 동시에 만들기 어려운 것을 해야 합니다. 그래야 진짜 차별화된 트레이드오프가 생깁니다.

​

이 점에서 Prefill과 Decode의 분리는 새로운 가능성을 열어주었습니다. 이 분리 덕분에 칩 설계자는 훨씬 더 다양한 트레이드오프를 선택할 수 있게 되었습니다. Prefill은 모델이 입력 컨텍스트를 읽고 이해하는 단계입니다. 긴 문서, 대화 기록, 코드베이스, 검색 결과 등을 받아들여 내부 상태를 만드는 과정입니다. 반면 Decode는 그 이후 실제 출력 토큰을 하나씩 생성하는 단계입니다.

​

이 두 단계는 병목이 다릅니다. Prefill은 대량의 입력을 한꺼번에 처리해야 하므로 병렬 연산과 메모리 대역폭이 중요합니다. Decode는 토큰을 순차적으로 생성해야 하므로 지연 시간, KV cache 접근, 메모리 효율, 통신 구조가 훨씬 중요해집니다. 따라서 이제는 Prefill에 최적화된 칩을 만들 수도 있고, Decode에 극단적으로 최적화된 칩을 만들 수도 있습니다. 이것이 새로운 반도체 스타트업들에게 열리는 캔버스입니다.

​

다만 엔비디아는 여전히 매우 강력한 이점을 가지고 있습니다. 엔비디아는 모든 주요 모델 기업들과 협력하며 그들의 모델 구조와 워크로드에 맞춰 하드웨어와 소프트웨어를 최적화할 수 있습니다. 단순히 칩만 파는 회사가 아니라 전체 AI 컴퓨팅 스택을 함께 최적화하는 회사입니다. 그리고 엔비디아는 TSMC 생태계 차원에서 시도하려고 하는 모든 새로운 공정, 새로운 소재, 새로운 기술에 대해서 이미 알고 있습니다. TSMC를 비롯한 공급망의 거의 모든 플레이어들은 젠슨 황에게 모든 것을 보여줍니다. 아마존, AMD, 구글 TPU 팀에게도 중요한 정보를 보여주겠지만, 엔비디아는 그 중심에 있습니다. 엔비디아는 공급망 전체와 가장 깊게 연결된 회사 중 하나입니다.

​

이것이 "더 나은 GPU를 만들려고 하지 말라"는 또 하나의 이유입니다. 엔비디아가 이미 알고 있고, 이미 접근하고 있고, 이미 최적화하고 있는 영역에서 정면 승부를 하는 것은 매우 어렵습니다. 새로운 칩 회사들이 해야 할 일은 다릅니다. Prefill이라는 캔버스 위에 그림을 그리거나, Decode라는 캔버스 위에 그림을 그려야 합니다. 혹은 전혀 다른 형태의 아키텍처를 선택해야 합니다.

​

하지만 동시에 그것은 어려운 일이어야 합니다. 쉬운 차별화는 오래가지 않습니다. 어떤 아이디어가 실제로 규모를 갖기 시작하면 엔비디아, 구글, 아마존, AMD 같은 대형 플레이어들이 매우 빠르게 따라올 것이기 때문입니다. 저희는 세레브라스의 벤처 투자자였습니다. 세레브라스가 한 일은 어렵고, 근본적으로 다른 일이었습니다. 바로 웨이퍼 스케일 컴퓨팅입니다.

​

물론 그것이 얼마나 큰 시장이 될지는 앞으로 지켜봐야 합니다. 하지만 중요한 것은 세레브라스가 단순히 '더 나은 GPU'를 만들려고 한 것이 아니라는 점입니다. 그들은 완전히 다른 것을 했습니다. 세레브라스는 매우 흥미로운 기술들을 연구하고 있습니다.

​

예를 들어 세레브라스가 가진 문제 중 하나는 I/O입니다. 여러 개의 웨이퍼 스케일 시스템을 함께 묶고, Scale-up이나 Scale-out 네트워크를 만들기 시작하면 엄청난 양의 I/O가 필요합니다. I/O는 결국 칩의 가장자리, 즉 shoreline에 의해 제한됩니다. 칩 내부에 아무리 많은 연산 자원과 메모리가 있어도, 외부와 데이터를 주고받는 통로는 칩의 둘레에 의해 제한됩니다. 그래서 shoreline이라는 표현을 쓰는 것입니다.

​

세레브라스는 칩 내부의 연산과 메모리 비율이 shoreline I/O에 비해 압도적으로 높은 구조를 가지고 있습니다. 내부에는 엄청난 컴퓨팅 자원이 있는데, 외부로 데이터를 내보내고 받아들이는 통로가 상대적으로 병목이 될 수 있다는 뜻입니다. 이 문제를 해결하기 위해 그들은 매우 어려운 일을 하고 있습니다. 

​

*코멘트 → 세레브레스 자료에 대해서도 원문은 세레브라스 IPO 분석자료에서 찾아뵐 수 있고, 요약된 버전은 5월 18일 주간전략보고 내 엔비디아 코멘트에서 찾아보실 수 있습니다.

​

예를 들어 광학 웨이퍼를 바로 얹을 수 있는지 살펴보고 있습니다. 만약 이것이 가능해진다면 I/O 병목은 크게 완화될 수 있습니다. 전기 신호 대신 광학 인터커넥트를 웨이퍼 수준에서 통합하면 훨씬 더 높은 대역폭으로 데이터를 주고받을 수 있기 때문입니다. 또한 그들은 한계를 넘기 위해 DRAM의 하이브리드 본딩도 분명히 살펴보고 있을 것입니다. 메모리를 훨씬 더 가깝게 붙이고 대역폭과 에너지 효율을 개선하려는 시도입니다.

​

모든 문제에 완벽한 아키텍처는 없습니다. 하지만 세레브라스가 흥미로운 이유는 구현하기 정말 어려운 웨이퍼 스케일 컴퓨팅이라는 완전히 다른 길을 선택했다는 점입니다.

​

마지막으로 이 주제와 관련해 한 가지를 더 이야기하고 싶습니다. 지금의 분산 컴퓨팅 트렌드는 GPU의 유효 수명에 엄청난 영향을 줄 수 있습니다. 그리고 이것은 Private Credit 시장을 구원해줄 수도 있다고 생각합니다.

​

패트릭 오쇼네시 : 사모신용 시장을 구원한다는 게 어떤 말이죠?

​

게빈 베이커 Gavin Baker : Private Credit 업계는 지금 SaaS 기업 대출 때문에 상당한 압박을 받고 있습니다. 이 대출들이 이미 어느 정도 감액되었는지는 모르겠지만 아마 더 감액되어야 할 가능성이 높다고 봅니다. 이유는 단순합니다. 상장 SaaS 기업들조차 AI로 인해 바뀌는 소프트웨어의 마진 구조와 경쟁 환경에 적응하는 데 어려움을 겪고 있습니다. 그렇다면 부채를 많이 짊어진 비상장 SaaS 기업들이 어떻게 이 완전히 다른 비즈니스 구조에 적응하고 동시에 필요한 투자를 감당할 수 있겠습니까.

​

하지만 사모 신용 자금은 SaaS 기업뿐 아니라 GPU 시장에도 많이 들어와 있습니다. 그들은 GPU 담보 대출을 심사할 때 보통 GPU의 경제적 수명을 3년이나 4년 정도로 보고 만기를 설정했습니다. 그런데 저는 추론 과정의 분리, 즉 Prefill과 Decode의 분리 덕분에 이 GPU들의 유효 수명이 10년에서 15년까지 늘어날 수 있다고 생각합니다. AI 회의론자들은 이렇게 말합니다. "이 기업들은 전부 장부를 조작하고 있습니다. 기술 변화가 너무 빠르기 때문에 GPU의 유효 수명은 1~2년에 불과합니다. CPU도 4년 정도밖에 못 씁니다."

​

저는 그렇게 보지 않습니다.

​

오히려 급격한 기술 변화와 Prefill과 Decode 분리가 만들어낸 진짜 결과는 정반대에 가깝습니다. Cerebras의 웨이퍼 스케일 시스템이나 Groq의 LPU 같은 별도 추론 가속기를 H100, 심지어 A100 같은 기존 GPU 아키텍처 앞단에 붙일 수 있게 되었기 때문입니다. 쉽게 말하면, 새로운 특화 칩이 기존 GPU를 대체하는 것이 아니라, 기존 GPU의 역할을 다시 정의해줄 수 있다는 뜻입니다.

​

추론 과정에서 Prefill은 입력 컨텍스트를 읽고 처리하는 단계입니다. 반면 Decode는 실제 출력 토큰을 하나씩 생성하는 단계입니다. 이 두 단계가 분리되면 꼭 최신 GPU가 모든 작업을 다 처리할 필요가 없어집니다. 어떤 칩은 Decode에 특화되고, 기존 GPU는 Prefill에 활용될 수 있습니다. 그렇게 되면 H100이나 A100 같은 기존 GPU도 여전히 가치 있는 자산으로 남을 수 있습니다. 최신 모델의 가장 민감한 Decode 병목은 다른 특화 칩이 처리하고, H100과 A100은 Prefill 단계에서 계속 활용되는 구조가 가능해지기 때문입니다.

​

이렇게 되면 기존 GPU는 물리적으로 수명을 다할 때까지, '녹아 없어질 때까지' 계속 쓰일 수 있습니다. 물론 칩은 결국 수명을 다합니다. 반도체는 영원히 작동하지 않습니다. 열, 전압, 사용 시간에 따라 물리적으로 열화됩니다. 하지만 경제적 유효 수명은 회의론자들이 말하는 1~2년보다 훨씬 길어질 수 있습니다.

​

어쩌면 이 GPU들을 항상 최고 속도로 혹사할 필요도 없어질 수 있습니다. Prefill에 더 적합한 방식으로 운용하고, Decode 병목은 별도 특화 칩이 처리하게 만들면 기존 GPU의 부담도 줄어들 수 있습니다. 그러면 장비의 수명과 경제성이 모두 개선됩니다.

​

이는 사모 신용 산업 전체에 매우 좋은 소식이 될 수 있습니다. 왜냐하면 GPU의 유효 수명이 길어지면, GPU를 담보로 한 대출의 리스크가 낮아지기 때문입니다. 자산이 3~4년이 아니라 10년 이상 경제적 가치를 유지할 수 있다면 대출 구조는 완전히 달라집니다.

​

이 흐름은 AI 인프라 구축의 자금 조달에도 직접적인 도움이 됩니다. GPU 파이낸싱 금리가 코어위브가 조달했던 낮은 수준인 7%대 초반에 머무르는 것이 아니라 5%나 6%에 더 가까운 수준으로 내려갈 수 있기 때문입니다. 이 차이는 단순히 1~2%포인트의 문제가 아닙니다. AI 인프라는 수십억 달러, 수백억 달러 단위로 구축됩니다. 따라서 자금 조달 금리가 낮아지면 전체 프로젝트의 경제성이 수학적으로 완전히 달라집니다.

​

패트릭 오쇼네시 :칩을 만드는 것도 아니고, 인프라를 구축하는 것도 아니며, 직접 모델을 만드는 것도 아닌 창업자들이 있습니다. 대신 이 기술을 활용해서 완전히 새로운 제품이나 회사를 만들려는, 가장 AI 네이티브한 창업자들입니다. 이런 창업자들을 보면서 어떤 점을 가장 주목하고 계십니까? 그리고 기존 창업자들과 비교했을 때, 이들이 가장 다르게 느껴지는 부분이 있다면 무엇입니까?

​

게빈 베이커 Gavin Baker : 우선 저는 이것이 단지 칩 설계에만 해당되는 이야기는 아니라고 생각합니다. 제게 이것은 벤처 투자에서 늘 가장 근본적인 질문 중 하나였습니다. 세상에는 듣는 순간 누구에게나 명백해지는 아이디어들이 있습니다. 그런데 벤처에서 그런 위치에 있으면 곤란합니다. 실행하기 어렵지도 않고, 충분한 규모를 만들기 전에 세상에 너무 빨리 명백해져 버린다면, 결국 경쟁자들이 몰려오기 때문입니다.

​

벤처에서 궁극적인 이점은 규모입니다. 충분한 규모에 먼저 도달해야 합니다. 규모가 생기면 유통, 브랜드, 데이터, 고객 관계, 자본 접근성, 채용력 등 여러 우위가 쌓입니다. 하지만 그 전에 아이디어가 너무 명백해지면, 그 회사는 방어하기 어려워집니다. 아마존의 훌륭했던 점도 여기에 있습니다. 아마존의 기회는 많은 사람들에게는 명백했지만 정작 기존 소매업체 CEO들에게는 명백하지 않았습니다. 그 틈이 있었습니다.

​

그리고 아마존은 매우 영리했습니다. 벤처 캐피탈이 투자한 전자상거래 회사가 등장하면, 아마존은 그 회사를 거의 모두 파괴해버렸습니다. "우리는 마진을 마이너스 10%포인트까지 낮출 수 있다"는 식으로 경쟁했습니다. 규모와 자본력을 활용해 상대가 버티기 어려운 환경을 만든 것입니다. 그래서 저는 Wayfair 사람들을 좋아합니다. 그들은 정말 어려운 일을 해냈습니다. 아마존이 그들을 없애려고 했지만 실패했습니다. Wayfair는 운영적으로 매우 강인했고 CEO들도 정말 유능했습니다. 단순히 아이디어가 좋아서 살아남은 것이 아니라 실행이 어렵고 운영 역량이 필요한 영역에서 버텨낸 것입니다.

​

벤처 투자를 볼 때 저는 항상 이 질문을 합니다. 이 회사가 충분한 규모를 구축하기 전에 세상에 너무 명백해질 것인가. 아니면 명백하지 않고, 다르며, 진정으로 해내기 어려운 일을 하고 있는가.

​

저는 AI 분야의 많은 창업자들이 바로 이 문제로 어려움을 겪고 있다고 생각합니다. 지금 사람들은 젠슨 황이 말한 AI 5층 케이크에서 경제적 수익이 어디에 쌓이는지 걱정하기 시작했습니다. 에너지, 데이터센터, 칩, 모델에는 수익이 축적되고 있습니다. 

​

반면 애플리케이션 레이어에는 실제로 수익이 거의 축적되지 않는 것 아니냐는 우려가 커지고 있습니다. 물론 예외도 있습니다. Cursor와 Cognition은 어느 정도 의미 있는 규모에 도달했습니다. 이들은 코딩에 집중했습니다. 18개월 전에도 많은 사람들이 코딩에 주목하고 있었습니다. 하지만 당시 오픈AI는 세상의 모든 것을 다 하려고 했습니다. 반면 코딩에 집중했던 곳은 Cursor, Cognition, 그리고 앤스로픽이었습니다. 결과적으로 보면 코딩에 집중한 것은 정말 옳은 선택이었습니다.

​

이것은 리처드 서튼의 Bitter Lesson과도 연결됩니다. 코딩은 ASI와 유용한 AI로 가는 가장 짧은 경로일 수 있습니다. 왜냐하면 AI가 코딩을 정말 잘하게 되면 결국 무엇이든 할 수 있는 코드를 스스로 작성할 수 있기 때문입니다. 소프트웨어는 세상의 많은 시스템을 제어합니다. 연구 도구, 데이터 파이프라인, 자동화 시스템, 비즈니스 워크플로, 실험 환경, 모델 학습 인프라가 모두 코드 위에서 돌아갑니다. 따라서 코딩 능력이 크게 좋아진다는 것은 단순히 개발자 생산성이 올라간다는 뜻이 아닙니다. AI가 자기 자신을 개선하고, 새로운 도구를 만들고, 더 복잡한 작업을 수행할 수 있는 기반이 생긴다는 뜻입니다.

​

*코멘트 → 리처드 서튼의 Bitter Lesson의 내용은 → 인간이 자신의 도메인 지식을 정성껏 설계해 넣은 접근법은 단기적으로는 잘 작동하지만, 장기적으로는 컴퓨팅을 대량으로 투입할 수 있는 범용적 방법에 항상 패배해왔다는 것입니다. 체스에서 그랜드마스터의 지식을 코딩해 넣은 엔진보다 무식한 대규모 탐색이 이겼고, 음성인식에서 언어학자의 규칙보다 통계적 학습이 이겼습니다. 인간의 똑똑한 설계가 아니라, 컴퓨팅과 함께 스케일되는 범용 방법이 이긴다는 것이 Bitter Lesson입니다. 아주 간단하게 보자면, 컴퓨트와 데이터만 많이 넣으면 AI가 인간보다 잘한다는 것입니다.

​

결과적으로 게빈 베이커의 말은 코딩이라는 단 하나의 범용 능력을 극한까지 끌어올리면, 각 도메인의 해법은 AI가 스스로 코드로 작성해내니 다 해결 가능해진다는 것입니다. 소프트웨어가 연구 도구, 데이터 파이프라인, 학습 인프라까지 세상의 시스템 대부분을 제어하니까, 코딩 능력은 컴퓨팅을 어떤 도메인의 역량으로든 환전해주는 만능 레버가 되는 셈입니다. 그리고 코딩을 잘하게 되면 모델 훈련 인프라, 실험 환경, 연구 도구를 스스로 만들고 개선할 수 있게 되는데 AI를 연구하고 배포하는 과정에서 사람을 제외하는 일입니다.

​

그런 의미에서 이 회사들이 코딩에 집중한 것은 매우 현명했다고 봅니다. 특히 Cognition은 정말로 완전히 다른 일을 하고 있다고 생각합니다. 단순히 기존 개발자의 생산성을 조금 높여주는 도구가 아니라, 소프트웨어 작업 자체를 더 자율적인 에이전트형 시스템으로 바꾸려는 시도에 가깝습니다. 이것이 단순한 코딩 보조 도구와 다른 지점입니다.

새로운 죄수의 딜레마

프론티어 모델 API 서비스? 교차검증으로 본 AI 기업들의 기묘한 밸류

게빈 베이커 Gavin Baker : 젠슨 황은 원한다면 언제든 프론티어 모델에 근접한 자체 모델을 만들 수 있다고 생각합니다. 엔비디아는 이미 그만한 기술적 기반을 가지고 있고 실제로 내부적으로도 매우 흥미로운 일들을 하고 있습니다. 물론 시도할 수는 있을 것입니다. 하지만 저는 젠슨 황이 굳이 그렇게 하고 싶어 할 것 같지는 않습니다. 그것이 바로 오픈AI와 앤스로픽이 그를 상대로 시도했다가 실패한 부분이라고 생각합니다.

​

젠슨 황은 매우 논리적으로 사고하는 사람입니다. 그리고 이 대응은 매우 논리적입니다. 엔비디아가 직접 프론티어 모델 기업이 되기보다, 오픈소스와 생태계를 활용해 프론티어 모델 기업들의 협상력을 견제하는 방식입니다. 저는 앞으로 중국 모델들 가운데 오픈소스 프론티어 모델에 가까운 것들이 계속 등장할 것이라고 생각합니다. 그리고 그 모델들 중 상당수는 미국 모델이 만들어낸 토큰을 활용했을 가능성이 높다고 봅니다.

​

중국 기업 입장에서는 이를 세탁할 방법이 매우 많습니다. 다양한 API를 활용할 수도 있고, 중간 경로를 여러 번 거치게 만들 수도 있으며, 추적을 어렵게 만드는 방식도 얼마든지 가능합니다. 현재 미국 AI Labs가 모델 증류를 막기 위한 기술에 많은 노력을 기울이고 있는 이유도 여기에 있습니다. 중국 오픈소스 모델들은 자원이 제한된 환경에서도 매우 인상적인 성과를 내고 있습니다. 하지만 저는 그 이면에 상당한 양의 증류가 존재한다고 생각합니다. 프론티어 모델이 생성한 결과물을 이용해 더 작은 모델이나 오픈소스 모델을 학습시키는 방식입니다.

​

이것이 바로 앤스로픽이 Mythos를 서비스할 컴퓨팅 자원이 부족했다는 점 외에도 그들이 Mythos가 외부에서 증류되는 것을 원치 않았던 이유라고 생각합니다. 그들은 Mythos를 직접 사용해 스스로 증류하고 다음 모델의 강화학습에 활용하고 싶었을 것입니다. 방식이 정확히 무엇이든 핵심은 프론티어 모델의 지능을 외부에 너무 빨리 노출하고 싶지 않았다는 점입니다.

​

그러다 결국 오픈AI가 스스로 만족할 만한 수준의 모델을 확보하게 된다면, 프론티어에 있는 모든 플레이어들이 어떤 행동을 취할 것인지를 둘러싸고 매우 흥미로운 게임 이론이 전개될 것이라고 생각합니다. 

​

왜냐하면 이것은 새로운 형태의 죄수의 딜레마이기 때문입니다.

​

과거의 죄수의 딜레마가 '누가 더 공격적으로 투자할 것인가'에 가까웠다면, 새로운 죄수의 딜레마는 '프론티어에 있는 모델을 API로 출시할 것인가, 말 것인가'에 관한 문제가 될 것입니다. 만약 모든 프론티어 AI Labs가 합의해서 최첨단 모델을 API로 출시하지 않는다면 중국 오픈소스 모델들은 따라붙기 더 어려워질 수 있습니다. 물론 시간이 지나면 결국 따라오겠지만 속도는 느려질 것입니다.

​

하지만 단 한 곳이라도 이 합의를 깨고 최고의 모델을 API로 출시한다면 상황은 완전히 달라집니다. 그 회사는 시장에서 가장 좋은 모델을 갖게 되고 막대한 매출과 현금흐름을 창출하게 됩니다. 그리고 AI에서 자원은 곧 지능입니다. 더 많은 매출과 현금흐름은 더 많은 GPU, 더 많은 전력, 더 많은 연구인력, 더 많은 실험으로 이어집니다. 그러면 그 회사는 더 앞서 나가기 시작합니다. 결국 다른 플레이어들도 가만히 있을 수 없게 되고 모두가 다시 모델을 출시하게 됩니다.

​

이것이 새로운 게임 이론입니다.

​

이 구조는 TSMC, 삼성, 인텔을 둘러싼 게임 이론과도 비슷합니다. 현실적으로 엔비디아나 AMD 같은 대형 고객이 다른 파운드리 중 하나를 본격적으로 사용하기 시작하면 그 파운드리는 매우 빠르게 발전할 수 있습니다. 수요와 학습곡선, 장비업체의 지원, 고객 피드백이 한꺼번에 붙기 때문입니다.

​

그래서 저는 젠슨 황이 오픈소스 모델을 프론티어 모델보다 항상 일정 기간 뒤처진 위치에 두려고 할 가능성이 높다고 생각합니다. 오픈소스가 충분히 강해져서 프론티어 AI Labs의 협상력을 견제하게 만들되 완전히 최전선까지 올라와 엔비디아 고객들의 수익성을 무너뜨리지는 않게 하는 균형입니다. 이것은 앞으로 매우 흥미로운 관전 포인트가 될 것입니다.

​

그리고 한 가지 덧붙이고 싶은 점은 오픈소스도 사실 수익화된다는 것입니다. '오픈소스가 무료'라는 생각은 잘못된 인식입니다. 모델 가중치가 공개되어 있더라도 그 모델을 실제로 돌리는 데는 비용이 듭니다. 오픈소스 토큰도 에너지를 소비합니다. 토큰을 생성하려면 전력이 필요하고, GPU가 필요하고, 인프라가 필요합니다.

​

따라서 오픈소스 모델이라고 해서 경제적 가치가 사라지는 것이 아닙니다. 누군가는 그 모델을 호스팅해야 하고, 누군가는 추론 비용을 부담해야 하며, 누군가는 그 사용량에서 수익을 가져갑니다. 실제로 오픈소스 모델 기업들은 거의 항상 어떤 방식으로든 수익을 배분받게 됩니다. 결국 오픈소스는 무료가 아니라, 다른 방식으로 수익화되는 모델입니다. AI에서 중요한 것은 모델이 공개되어 있느냐만이 아니라, 그 모델을 누가 가장 싸게, 가장 안정적으로, 가장 큰 규모로 서빙할 수 있느냐입니다.

​

패트릭 오쇼네시 : 지금의 투자판에 대해서는 어떻게 보시나요?

​

게빈 베이커 Gavin Baker : 지금 AI 기업들의 밸류에이션은 교차적으로 보건대 말이 안된다고 생각합니다. 저평가를 받는 자산들이 너무 많습니다. 특히 제 주변에서 ​DRAM에 대해 강세론자가 아닌 사람은 거의 보지 못했습니다. 사실상 없습니다. 현재 시장의 밸류에이션을 보면 이 모든 것이 동시에 맞을 수는 없다는 생각이 듭니다.

​

예를 들어 반도체 장비 회사들은 Forward PER 기준으로 40배 수준에 거래되고 있습니다. 반면 ​DRAM 회사들은 한 자릿수 중반의 밸류에이션에 거래되고 있습니다. 지난 사이클의 정점에서는 이 비율이 대략 5배 대 12배 정도였습니다. 어떤 시기에는 3배 대 45배까지 벌어진 적도 있었습니다. 하지만 지금처럼 장비 회사와 메모리 회사 사이의 배수 차이가 극단적으로 벌어진 상황에서는 두 가지가 모두 맞기 어렵습니다.

​

물론 반도체 장비 기업들의 비즈니스 모델이 메모리 기업들의 비즈니스 모델보다 더 많이 개선된 것은 사실입니다. 장비 기업들은 부품, 서비스, 유지보수에서 반복 수익 요소가 생겼고 과거보다 훨씬 더 질 좋은 수익 구조를 갖게 되었습니다. 반면 HBM이 메모리 비즈니스 모델을 얼마나 구조적으로 개선할지는 아직 완전히 확인되지 않았습니다. HBM이 메모리 산업의 수익성을 끌어올릴 가능성은 분명히 있지만 그것이 장비 기업과 메모리 기업 사이의 1,000%에 가까운 밸류에이션 격차를 정당화할 정도인지는 잘 모르겠습니다.

​

마찬가지로 엔비디아 같은 기업의 밸류에이션도 설명하기 어려웠습니다. 엔비디아는 지난 12년 동안 시장 대비 거의 가장 저렴한 수준까지 내려왔고 절대 기준으로도 매우 저렴졌습니다. 엔비디아의 밸류에이션을 GEV 같은 기업의 밸류에이션과 비교해서 설명하기는 매우 어렵습니다. 그렇게 설명하려면 엔비디아가 상상하기 어려울 정도로 큰 점유율을 잃게 될 것이라는 가정을 해야 합니다. 저는 그것이 현재 시장 가격에 일부 내포되어 있다고 봅니다. 실제 현실과 다르게 상당히 과하게 비관적인 것입니다. 결국 교차검증해보자면 밸류에이션이 정말 이상합니다. 어떤 자산은 너무 비싸고, 어떤 자산은 너무 싸 보입니다.

​

현재는 공급 부족 상황이기 때문에 가장 품질이 낮은 기업들이 오히려 최고의 주가 성과를 내고 있습니다. 석유/가스, 광업, 천연자원 투자에 익숙한 투자자라면 이 구조가 매우 직관적으로 느껴질 것입니다. 진짜 원자재 강세장이 오면 비용이 가장 높은 공급업체들이 가장 큰 혜택을 받습니다. 가격이 오르면 고비용 기업들의 레버리지가 가장 크게 작동하기 때문입니다. 이 기업들은 파산 직전에서 갑자기 막대한 현금을 창출하는 회사로 바뀝니다. 그래서 주가가 가장 많이 오릅니다.

​

이것이 원자재 투자가 정말 어려운 이유 중 하나라고 생각합니다. 사이클 전체를 놓고 보면 우량 기업이 더 좋은 성과를 냅니다. 하지만 공급 부족이 극심한 강세장 구간에서는 고비용/저품질 기업들의 주가가 가장 폭발적으로 오릅니다. 이후 침체기가 오면 그 기업들이 다시 무너지거나 파산하고 그때 우량 기업의 초과수익이 집중됩니다.

​

지금 AI 공급망의 여러 영역에서도 비슷한 일이 일어나고 있습니다. 높은 비용 구조, 낮은 신뢰성, 높은 불량률 때문에 하이퍼스케일러와 구매자들에게 별로 선호받지 못하던 기업들이 있습니다. 평소라면 최하위 품질 업체로 분류될 기업들입니다. 그런데 공급이 부족해지고 가격이 오르자 이 기업들도 물건을 전부 팔 수 있게 되었습니다. 그러면 실적이 갑자기 좋아지고 X의 개인 투자자 계정들이 이런 움직임에 주목합니다. 그 결과 주가는 천정부지로 오릅니다.

​

반면 일부 고품질 우량 기업들은 실제로 매우 부진한 주가 성과를 보이기도 합니다. 투자자로서는 이것이 정말 힘든 환경입니다. 3개월이나 6개월 만에 10배 오른 기업을 보면, 그 기업이 벌어들인 현금을 어떻게 쓰느냐에 따라 머지않아 다시 제자리로 돌아갈 가능성이 높다는 것을 알고 있기 때문입니다.

​

그럼에도 한 가지 걱정되는 부분은 있습니다. 1년 전까지만 해도 매우 회의적이었던 사람들이 이제는 더 이상 회의적이지 않다는 점입니다. 회의론이 사라지는 것은 항상 신경 써야 할 신호입니다. 하지만 아직 과도하게 오르지 않은 고품질 우량 기업들의 밸류에이션을 보면 한결 마음이 편해집니다. 시장 안에는 여전히 제대로 평가받지 못한 좋은 기업들이 남아 있다고 보기 때문입니다. 

​

저는 2024년과 2025년에 누군가 AI 버블을 이야기하는 것이 조금 이상하다고 생각했습니다. 왜냐하면 바로 눈앞에 원자력 버블과 양자컴퓨팅 버블이 훨씬 더 명백하게 존재했기 때문입니다. 도대체 AI 버블을 말하면서 왜 이쪽은 보지 않는지 이해하기 어려웠습니다. 물론 원자력이나 양자 테마에서 보였던 투기적 움직임 일부가 AI 관련 소형주로 번졌을 가능성은 있습니다. X나 레딧에서 영향력 있는 계정들이 특정 저품질/소형주를 밀어붙이면, 주 가가 쉽게 움직이는 환경이 만들어질 수 있습니다. 그 점은 조금 두렵습니다.

​

그래서 저는 오히려 AI 비관론자가 더 많았으면 좋겠습니다. 메모리 비관론자가 더 많았으면 좋겠다고 생각하는 것과 같은 이유입니다. 비관론이 남아 있어야 시장이 더 건강합니다.

​

흥미로운 건 2024~2025년과 AI HW 투자 열기가 집중된 정도가 달라졌다는 데 있습니다. 2026년 1월부터는 AI HW 내에서도 특정 기업만 크게 오르고 바스켓으로 움직이지 않게 변했습니다.

​

그 이유 중 하나는 AI 자체의 성능이 갑자기 높아졌기 때문이라고 생각합니다. 이제 많은 투자자들이 다양한 하위 섹터에 대해 빠르게 전문적인 지식을 습득하고, 훨씬 더 쉽게 거래를 시작할 수 있게 되었습니다. AI가 투자자들의 분석 능력과 학습 속도를 높이면서 시장의 가격 효율성도 높아진 것입니다. 그래서 그런지 지금 남은 가장 큰 기회 중 일부는 시장에서 잘못 분류된 종목들에 있다고 봅니다.

​

패트릭 오쇼네시 : 주요 기업들 각각에 대해 한두 문장 정도로 짧게 말씀해 주실 수 있는지 궁금합니다. 흥미진진한 새로운 기업들에 모든 대화가 집중되다 보니 구글, 마이크로소프트, 아마존과 같이 상장된 주요 대기업들에 대해 질문하는 것을 제가 항상 잊어버리는 것 같습니다.

​

게빈 베이커 Gavin Baker : 구글은 작년까지만 해도 TPU에서 가지고 있던 이점 때문에 매우 인상적인 위치에 있었습니다. 하지만 지금은 그 이점이 상당 부분 사라졌다고 봅니다. 그럼에도 제가 구글이 여전히 유리한 위치에 있다고 생각하는 이유는 구글이 누구보다도 많은 컴퓨팅 자원을 보유하고 있기 때문입니다. 앞서 공급 부족으로 인해 기존 설치 기반의 가치가 더 높아졌다는 이야기를 했습니다. 이 관점에서 보면 구글은 가장 큰 컴퓨팅 설치 기반을 가진 회사입니다.

​

다만 구글이 보여주는 실행력 부족에는 조금 놀랐습니다. 이번 주에 구글 I/O가 열립니다. 만약 구글이 오픈AI나 Claude를 조금이라도 뛰어넘는 무언가를 발표하지 못한다면 그것은 구글에게 재앙이라기보다는 매우 흥미로운 신호가 될 것입니다. 우리가 논의해 온 엔비디아 효과가 제가 생각했던 것보다 훨씬 더 강력하다는 뜻일 수 있기 때문입니다. 그래서 저는 구글의 새로운 발표 이후 5일 뒤에 파레토 프론티어가 어떤 모습으로 바뀌어 있을지 매우 궁금합니다. 이번 발표는 구글에게 중요한 카드입니다.

​

*코멘트 → 5월 Google I/O 2026에 대해서는 5월 25일 주간전략보고에 생각을 전해드린 바 있습니다.

 
 
 

​

구글이 보유한 방대한 데이터, 특히 유튜브 데이터는 진정으로 가치 있는 자산입니다. 로봇 공학의 시대가 오면 이 데이터의 가치는 훨씬 더 커질 수 있습니다. 인간의 행동, 물리적 환경, 시각 정보, 동작 패턴이 담긴 방대한 영상 데이터는 로봇 학습에 매우 중요한 자원이 될 수 있기 때문입니다. 구글이 보유한 컴퓨팅 자원의 양과 검색 비즈니스의 현금창출력을 고려하면 구글이 좋은 위치에서 완전히 벗어나는 일은 없을 것이라고 봅니다. GCP가 폭발적으로 성장하고 있다는 사실도 이를 확인시켜 줍니다.

​

마크 저커버그에 대해서도 이야기할 필요가 있습니다. 저는 그가 메타 내부를 AI 우선 기업으로 바꿔낸 점에 대해 크게 인정해야 한다고 생각합니다. 진정한 인터넷 거인들 가운데 실제로 그런 조직 전환을 해낸 인물은 저커버그가 거의 유일하다고 봅니다. 그 점은 높이 평가할 만합니다. 그가 적절한 시기에 수십억 달러 규모의 계약을 체결하고, AI 인재를 영입하기 위해 막대한 자금을 아끼지 않은 것도 대단한 결정이었다고 생각합니다. 그리고 메타의 Muse 모델은 정말 큰 긍정적 서프라이즈였습니다. 그것은 MSL에서 나온 첫 번째 모델이었습니다.

​

물론 Muse가 xAI, 구글의 새로운 모델, OpenAI, Claude 같은 파레토 프론티어 최상단에 있는 모델들과 같은 위치에 있다고 보기는 어렵습니다. 하지만 상당히 근접해 있습니다. 그 점이 제게는 매우 인상적이었습니다. 그래서 저는 메타의 위치가 이전보다 훨씬 좋아졌다고 생각합니다. 

​

절대적인 경쟁우위의 수준만 놓고 보면 여전히 구글만큼 강하다고 말하기는 어렵습니다. 하지만 시장에서는 특히 3년 정도의 단기적인 기간에는 현재 위치보다 변화의 속도와 개선 방향이 더 중요할 때가 많습니다. 장기적으로는 결국 경쟁우위의 절대적인 수준이 지배하는 경향이 있습니다. 하지만 그 안에서도 변화의 방향과 속도는 매우 중요합니다. 메타는 그 변화의 방향이 좋아진 회사라고 봅니다.

​

아마존은 Trainium 덕분에 정말 강력한 위치에 있다고 생각합니다. 향후 18개월 동안 아마존의 소매 비즈니스에서도 로봇 공학을 통한 실질적인 손익 개선 효과가 나타날 가능성이 있습니다. 물론 저는 아마존의 내부 모델인 Nova 같은 모델들이 메타의 Muse 모델 수준에는 미치지 못한다고 봅니다. 하지만 사람들이 생각하는 것보다는 훨씬 낫다고 생각합니다.

​

마이크로소프트의 사티아 나델라는 정말 뛰어난 인물입니다. 다만 투자자들과 이야기해 보면 사람들이 더 이상 과거처럼 사티아에 대해 이야기하지 않는다는 느낌을 받습니다. 저는 사티아를 좋아하고 존경합니다. 그는 탁월한 CEO라고 생각합니다. 그가 내린 여러 결정들도 높이 평가합니다. 하지만 그는 불과 3년 만에 '구글을 춤추게 만들겠다'고 말하던 사람에서, 이제는 코파일럿의 제품 관리자처럼 보이는 위치로 바뀌고 말았습니다.

​

저는 오픈AI에 대한 쿠데타 시도 당시 사티아 나델라가 자신의 결정을 후회했는지 정말 묻고 싶습니다. 마음속 깊은 곳에서는 샘 올트먼 대신 일리야 수츠케버를 지지했더라면 좋았을 텐데, 일리야와 미라 무라티가 오늘날 오픈AI를 이끌고 있었다면 좋았을 텐데 하고 생각했을지 궁금합니다. 만약 그렇게 되었다면 마이크로소프트와 오픈AI의 파트너십은 지금과는 완전히 다른 모습이 되었을 가능성이 높습니다. 물론 이 질문에 대한 답은 절대 알 수 없을 것입니다. 하지만 매우 흥미로운 질문입니다. 그럼에도 저는 사티아를 높이 평가합니다. 지금 그가 하고 있는 일은 위험을 감수하는 행동입니다.

​

마이크로소프트는 불확실성의 원뿔 안에서 결정을 내려야 합니다. 얼마를 쓸 것인지뿐만 아니라, 무엇에 쓸 것인지도 결정해야 합니다. AI 인프라에 막대한 자본을 투입해야 하지만, 그 컴퓨트를 OpenAI에 제공할지, 자체 제품에 사용할지, 자체 모델 훈련에 쓸지 선택해야 합니다. 마이크로소프트는 2025년 초에 잠시 주춤했던 것 같습니다. 그들에게는 자본 지출에 이 정도 달러를 쓰면 이 정도 수익을 얻을 수 있다는 일종의 공식이 있었습니다. 

​

그런데 그 공식이 잠시 어긋났습니다. 이 산업에서는 한 번 주춤하면 위치를 잃습니다. 할당량을 잃고, 공급망 우선순위를 잃고, 다시 회복하기 어려워집니다. 마이크로소프트는 잠시 주춤했고, 그 결과 일부 위치를 잃었습니다.

그런데 지금 사티아가 내리고 있는 결정은 시장의 비판을 받았지만 저는 올바른 방향이라고 생각합니다. 마이크로소프트는 자신들이 확보한 컴퓨팅 자원을 내부적으로 사용할 것입니다.

​

만약 마이크로소프트가 GPU를 단순히 오픈AI에 되파는 방식으로만 사용했다면 Azure가 얼마나 빠르게 성장했을지는 아무도 모릅니다. 하지만 그들은 자체 제품을 개선하기 위해 내부적으로 컴퓨팅 자원을 사용하기로 했습니다. 코파일럿이 그토록 엉망이거나 기대에 못 미쳤던 이유 중 하나도 가용한 컴퓨팅 자원이 충분하지 않았기 때문이라고 봅니다. 마이크로소프트는 이제 그 문제를 해결하고 있습니다. 사티아는 사실상 코파일럿의 제품 관리자가 되었습니다. 그리고 저는 그가 여전히 훌륭한 CEO라고 생각합니다.

​

또한 마이크로소프트는 자체 컴퓨팅 자원을 활용해 자신들의 모델을 훈련시키려 하고 있습니다. 저는 그들이 이 부분에서 성공할 만한 적합한 팀을 이미 갖추고 있는지에 대해서는 조금 회의적입니다. 하지만 메타가 그랬던 것처럼, 마이크로소프트 역시 필요한 팀을 새로 고용할 자금과 역량은 충분히 가지고 있습니다.

​

저는 사티아가 위험을 감수하면서도 좋은 결정을 내리고 있다고 봅니다. 그는 마이크로소프트를 프론티어 모델 API 접근이 더 이상 당연하지 않은 세상에 대비시키고 있습니다. 오픈AI나 앤스로픽의 최첨단 모델을 언제든 원하는 조건으로 사용할 수 있다는 가정이 깨질 수 있는 세상 말입니다. 이것은 정말 용기 있는 결정입니다. 저는 그 점에 대해 박수를 보내고 싶습니다.

​

그는 기회비용을 감수하고 있습니다. 만약 마이크로소프트가 자사의 제품을 위해 GPU를 사용하는 대신, 오로지 오픈AI나 앤스로픽의 역량을 지원하는 데 집중했다면 마이크로소프트의 주가는 아마 지금쯤 $800가 되어 있을지도 모릅니다. 그럼에도 그는 장기적으로 더 중요한 결정을 내리고 있습니다. 그래서 저는 그가 위대한 결정을 내렸다고 생각합니다.

​

정말 흥미로운 점은, 이들 기업이 내리는 결정이 어느 정도 외부 생태계를 향해 열려 있느냐는 것입니다. 스타트업과 가장 깊은 관계를 맺고 있는 두 회사는 단연 엔비디아와 아마존입니다. 그다음으로 스타트업과 매우 긴밀하게 교류하는 곳은 구글입니다.

​

브로드컴은 조금 다른 방식으로 스타트업 생태계와 연결되어 있습니다. 브로드컴은 모두가 가장 선호하는 ASIC 공급업체에 가깝습니다. 스타트업 입장에서 2세대 칩을 개발할 때 브로드컴과 함께 작업하게 된다면 그것은 한 단계 성장했다는 신호처럼 받아들여집니다. 만약 1세대 칩부터 브로드컴과 협력하게 된다면, 그것은 거의 하늘에서 내려온 축복처럼 여겨집니다.

​

반면 AMD, 마이크로소프트, 메타가 스타트업과 깊게 교류하는 모습은 거의 보이지 않습니다. 제로라고 말하면 조금 과장일 수 있겠지만 사실상 그에 가깝습니다. 이들의 이런 결정에는 개인적으로 좀 의문을 가지고 있습니다. 왜냐하면 최고의 팀들 중 일부는 더 이상 대형 상장 기업 안에 남아 있지 않기 때문입니다. 그들은 작은 스타트업들에 흩어져 있습니다. 가장 날카로운 기술적 아이디어와 가장 빠른 실행력은 오히려 이 작은 팀들에서 나오는 경우가 많습니다.

​

결국 이런 스타트업들과 얼마나 깊게 교류하느냐가 중요한 차이를 만들 수 있습니다. 다른 하이퍼스케일러 기업들에서는 보기 어려운 이 스타트업 네트워크와의 연결성이 엔비디아, 아마존, 그리고 구글에게 매우 큰 이점으로 작용할 것이라고 생각합니다.

기업의 가치를 가르는 새로운 지표

애플리케이션을 파괴한 AI, AGAIN 'Pax Americana'

패트릭 오쇼네시 : 이제 대화를 마무리하면서, 이 거대한 AI 트렌드가 만들어낼 수 있는 또 다른 예상치 못한 연쇄 효과에 대해 자유롭게 말씀해 주시면 좋겠습니다. 세상이 이렇게 빠르게 변하고 있는 상황에서, 혹시 지금 흥미롭게 지켜보고 계시는 또 다른 2차 효과나 연쇄 효과가 있습니까? 아직 시장이 충분히 주목하지 못하고 있지만, 시간이 지나면 중요해질 수 있다고 보는 변화가 있다면 말씀해 주시면 좋겠습니다.

​

게빈 베이커 Gavin Baker : 애플리케이션 계층에서는 가치가 축적되기는커녕, 오히려 가치가 파괴되었다고 봅니다. AI는 애플리케이션 계층에서 순가치를 창출한 것이 아니라 순가치를 파괴했습니다. 가장 성공적인 AI 네이티브 기업으로 꼽히는 Cursor와 Cognition까지 포함하더라도 애플리케이션 계층 전체에서는 AI로 인해 수조 달러의 가치가 사라졌다고 생각합니다.

​

바로 이 맥락에서 우리가 인지해야 할 중요한 점이 있습니다. 

​

오늘날 가장 크게 가치가 상승하고 있고, 실제 경제적 가치를 창출하며, 시장에서 가장 잘 버티고 있는 기업들은 인간 한 명당 활용되는 GPU의 유효 비율이 가장 높은 기업들입니다. 다시 말해, 한 명의 직원이 얼마나 많은 GPU를 레버리지할 수 있느냐가 기업 가치 창출의 핵심 변수로 바뀌고 있습니다. 이것은 결국 모든 인간이 수많은 GPU를 활용하게 되는 세상으로 이어질 수도 있습니다. 아직 확정적으로 말할 수는 없지만 우리가 반드시 인지하고 있어야 할 매우 흥미로운 변화라고 생각합니다.

​

그리고 조금 어두운 이야기일 수도 있지만, 저는 개인의 안전에 대해서도 점점 더 우려하고 있습니다. AI와 더 밀접하게 연결되어 있고 대중적 인지도가 더 높은 사람일수록 이 문제를 훨씬 더 심각하게 걱정하고 있습니다. 저 역시 개인의 안전이 정말 걱정됩니다. 비극적인 일이 일어나지 않기를 바랍니다. 하지만 현재 미국에서는 정치적 폭력이 증가하고 있습니다. 그리고 AI가 점점 더 정치화됨에 따라 이런 폭력이 AI 분야의 정치적 리더들이나 상징적 인물들을 향하게 될 가능성을 걱정하고 있습니다.

​

우리가 오픈AI에 대해 어떤 생각을 갖고 있든, 샘 올트먼에 대해 어떤 의견을 갖고 있든, 누군가 그의 집에 화염병을 던졌다는 일은 정말 끔찍한 일입니다. 이런 일이 AI를 둘러싼 사회적 갈등의 일부로 나타나기 시작한다면 매우 위험한 신호입니다. 저는 AI로 인해 우리가 더 높은 변동성, 더 높은 베타, 그리고 더 큰 위험이 도사린 세상으로 향하고 있는 것은 아닌지 걱정합니다. 이것은 개인으로서의 저에게도 해당되는 이야기이고 체스판 위의 거대한 플레이어들에게도 해당되는 이야기입니다.

​

지정학적으로 이것이 무엇을 의미하는지도 생각해봐야 합니다.

​

우리는 우크라이나가 실제로 승리하기 시작하는 모습을 보고 있습니다. 그들이 승리하는 이유는 단순히 더 좋은 드론을 가졌기 때문만은 아니라고 생각합니다. 물론 더 좋은 드론을 보유한 것도 요인입니다. 하지만 우크라이나가 실제로 성과를 내고 있는 더 근본적인 이유는 아마도 미국과 이스라엘을 제외하면 전 세계에서 가장 뛰어난 전장 AI를 보유하고 있기 때문일 것입니다.

​

그렇다면 중국을 비롯한 미국의 적대국들이 이 사실을 인지하기 시작하면 어떻게 대응하겠습니까. 미국이 AI 우위 덕분에 더 강력해지는 것은 미국 입장에서는 좋은 일입니다. 하지만 나머지 세계에는 불안정성을 만들어낼 수 있습니다. 미국의 AI 지배력이 커질수록 다른 국가들은 그 격차를 위협으로 받아들일 수 있습니다.

​

제가 많이 생각하는 것 중 하나는 서구 사회가 실제로 얼마나 위대한 일을 해왔는지를 전 세계에 알리는 자선 단체를 만드는 것입니다. 예를 들어 노예제는 본질적으로 거의 모든 문명에 만연해 있었습니다. 하지만 이를 진정으로 종식시킨 것은 대영제국이었습니다. 이런 이야기는 더 많이 전해져야 합니다.

​

미국 역시 마찬가지입니다. 1945년 이후 미국은 핵폭탄을 보유했습니다. 당시에는 다른 어떤 나라도 핵무기를 갖고 있지 않았습니다. 미국은 원했다면 영원히 세계를 지배하려 할 수도 있었습니다. 하지만 미국은 그렇게 하지 않았습니다. 대신 독일과 일본을 재건했습니다. 그리고 오늘날 이스라엘, 부유한 한국, 일본은 미국의 가장 신뢰할 수 있는 동맹국이 되었습니다.

​

저는 이것이 미국 정신을 보여주는 사례라고 생각합니다. 미국은 세계를 완전히 장악할 수 있었지만 그렇게 하지 않았습니다. 당시 기록을 보면 일부 사람들은 미국 장군들과 맥아더가 일본에서 거의 미국의 황제처럼 군림하면서 세계를 완전히 장악하려 할지도 모른다고 두려워했습니다. 하지만 그들은 그렇게 하지 않았습니다. 그들은 집으로 돌아왔고 군대를 감축했습니다. 물론 그 이후에도 끔찍한 순간들은 있었습니다. 하지만 그 무서운 시기들 사이에는 거대한 글로벌 안정기가 찾아왔습니다. 바로 팍스 아메리카나입니다. 

​

그렇다면 어쩌면 이번에도 AI가 세계를 불안정하게 만들기만 하는 것이 아니라 미국의 AI 지배력을 기반으로 한 또 다른 팍스 아메리카나로 이어질 가능성도 있습니다. 저는 AI가 세상에 엄청난 유익을 가져다줄 것이라는 점에 대해서는 매우 낙관적입니다. 

​

제 지인 중 한 명의 딸은 매우 희귀한 유전자 변이 진단을 받았습니다. 당시에는 치료법이 없었습니다. 그는 많은 자원을 모을 수 있었고 이 상황을 알게 된 연구소들로부터 대규모 컴퓨팅 자원을 지원받았습니다. 그리고 엄청난 수의 AI 에이전트를 가동했습니다. 그는 AI를 활용해 이미 시장에 나와 있는 약물들 가운데 딸의 질병에 실질적인 영향을 줄 수 있는 치료제를 찾아냈습니다. 그리고 그 치료를 개발하기 위한 회사까지 설립했습니다. 그 딸의 삶은 이미 AI 덕분에 헤아릴 수 없을 정도로 달라졌습니다.

​

그래서 저는 AI 낙관론자입니다. 그리고 AI 맥시멀리스트에 가깝습니다. 하지만 동시에 이것이 일종의 사건의 지평선과 같다는 점도 인정합니다. 우리는 그 너머에 무엇이 있는지 정확히 알 수 없습니다. 분명히 사회가 헤쳐 나가야 할 단절과 격변의 시기가 될 것입니다.

​

저는 기술 파괴를 반대하는 사람들이 궁극적으로는 틀렸다고 생각합니다. 하지만 그렇다고 해서 그들의 우려를 무시해서는 안 됩니다. 우리는 그들의 걱정을 해소하기 위해 정말 신중하게 접근해야 합니다. AI가 모두에게 유익한 방향으로 작동하도록 만들어야 합니다.

​

특히 지금 가장 뛰어난 AI를 돈이 아주 많은 사람들만 사용할 수 있다는 점은 다소 디스토피아적입니다. 이 문제는 반드시 해결해야 합니다. 프론티어 AI 모델 접근성이 소수의 부유한 개인과 기업에만 집중된다면, AI는 불평등을 줄이는 기술이 아니라 불평등을 확대하는 기술이 될 수 있습니다. 우리는 수많은 불확실성이 존재한다는 점을 인정해야 합니다. 그리고 겸손한 태도로 매우 신중하게 이 문제에 접근해야 합니다.

큰 흐름 읽기 (Bird's-eye view)




2026-04-22

	

엔비디아 CEO 젠슨황 인터뷰 : 'TPU도 Trainium도, 그렇게 자신 있으면 공개적으로 붙자' (바로가기)




2026-04-15

	

오픈AI의 두뇌, 일리야의 후계자 야쿠브 파초키 : Spud 출시 직전, 대전략을 바꾸다 (바로가기)




2026-03-27

	

앤스로픽 CEO 다리오 아모데이 인터뷰 : "Extremely fast, but not infinitely fast" (바로가기)




2026-03-05

	

AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : "거품은 없다. ARR $100B가 온다" (바로가기)




2025-10-08

	

오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다 (바로가기)




AI 심화편 of 심화편




2026-06-05

	

AI 가속기 심화편 : GPU vs TPU, 무엇이 칩을 다르게 만드나 (feat. CPU, ASIC, FPGA) (바로가기)




2026-05-27

	

LLM 추론 토큰 가격의 비밀 : MoE의 시대, 엔비디아 NVL72가 중요한 이유 (바로가기)