구글 CEO 순다르 피차이 인터뷰 : 연간 $180B 투자, 판돈의 크기가 구글의 확신이다

[원문 유형] 네이버 프리미엄 콘텐츠
[채널] 올바른 미국주식 by SAPIENS
[게시일] 2026.04.08. 오후 8:04
[원문 URL] https://contents.premium.naver.com/sapiens/sapiensasset/contents/260408200422584kh
[제목] 구글 CEO 순다르 피차이 인터뷰 : 연간 $180B 투자, 판돈의 크기가 구글의 확신이다
[수집 기준] 승인된 구독 열람권으로 실제 본문을 보존했다. 이미지·첨부는 별도 미디어 원장에 보관하며 시각적 의미 검토 여부를 구분한다.

[구독 원문 본문]
​

안녕하세요 올바른입니다.

​

AI 심화편 자료입니다. 구글이 Latency를 중요하게 생각하는 이유, LaMDA와 GPT-3.5의 차이, 구글이 데스크톱과 모바일의 시대를 지나온 방법에 대해서 개인적인 생각들을 담았습니다.

​

오랜만에 순다르 피차이가 얼굴을 드러냈습니다. Gemma 4를 발표하고 나서 팟캐스트에 나와 구글이 AI 시대에 어떻게 적응했는지, 인프라에서 가장 병목인 것은 무엇인지를 말했습니다.

​

이번 인터뷰에서는 '지금까지의 구글'에 대한 답변들이 더 많았기에, 이런 방향들로 좀 더 자세한 내용들과 개인적인 생각들을 추가해본 자료입니다.

큰 흐름 읽기 (Bird's-eye view)

2026-03-27

앤스로픽 CEO 다리오 아모데이 인터뷰 : "Extremely fast, but not infinitely fast" (​바로가기)

2026-03-05

AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : "거품은 없다. ARR $100B가 온다" (바로가기)

2025-12-17

AI 버블론을 잠재우는 숫자들 : 엔터프라이즈 AI $37B 시장의 현주소 (바로가기)

2025-10-08

오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다 (바로가기)

엔비디아 (NVDA)

2026-03-17

엔비디아 GTC 2026 : 7개의 칩, 5개의 랙 시스템, 그리고 하나의 AI 슈퍼컴퓨터 (바로가기)

2026-02-26

엔비디아 4Q25 실적발표 : 담백한 실적발표, 핵심은 모두 그린라이트 (바로가기)

2026-01-02

엔비디아가 $20B를 주고 데려온 남자 : Groq 창업자 조나단 로스의 통찰 (바로가기)

광학 (Optics)

2026-03-20

OFC 2026 : 광학이 중요해지고 있는 이유들, 태풍의 눈에 있는 두 가지 기업 분석 (바로가기)

2026-03-13

AI 인프라의 새로운 병목 '광학' : 앞으로의 2~3년 가파른 채택곡선 (트랜시버, OCS, CPO) (바로가기)

2026-03-06

비아비 솔루션스(VIAV) 기업분석 : 광학의 시대, 더 많은 테스트가 필요해 (바로가기)

메모리 (Memory)

2026-03-19

마이크론 1Q26 실적발표 : 흔들릴 이유가 없는 어닝서프라이즈, 구조적 성장주로 거듭나기 (바로가기)

2025-01-21

추론의 시대, 핵심이 된 메모리 : 메모리 쇼티지를 떠받치고 있는 힘 (바로가기)

2026-01-07

엔비디아 CES 2026 : Vera Rubin의 시대, ICMS가 불러올 메모리 지각변동 (바로가기)

네오클라우드 (Neocloud)

2026-02-22

네오클라우드 뜯어보기 #2 : 새로운 시대의 AI 계급도, 전력을 돈으로 바꾼 Powered Shell (바로가기)

2026-02-10

네오클라우드 뜯어보기 : GPU 임대의 경제학, 네오클라우드 BIG 4 비교분석 (바로가기)

투자자문 서비스에 따른 투자 시 원금 손실이 발생할 수 있으며, 투자 손익에 대한 책임은 전적으로 고객에게 귀속됩니다. 또한 과거의 투자수익이 미래의 수익률을 보장하지 않습니다.

​

신규 구독 전에, 아래 투자자문계약 권유문서의 계약 관련 제반 사항을 반드시 읽으시고 충분히 검토하시기 바랍니다.

​

*투자자문계약 권유문서 : https://naver.me/5ZST47Qf

목차

​

제로섬이 아닌 확장의 시대 : 검색을 넘어 에이전트로, 지연시간을 줄이기 위한 것들

CY26 AI CapEx와 병목 : 판돈의 크기가 확신의 크기를 대변한다

구글은 어디에 베팅하고 있는가 : TPU와 자본 배분의 기준

순다르 피차이 Sundar Pichai

2026년 4월 7일, 알파벳/구글 CEO

제로섬이 아닌 확장의 시대

검색을 넘어 에이전트로, 지연시간을 줄이기 위한 것들

​

존 콜리슨 John Collison : 구글과 인공지능에 대해 이야기할 때 사람들이 자주 언급하는 역사적 배경 중 하나는 트랜스포머 모델이 구글에서 발명되었다는 사실입니다. 하지만 이 기술은 정작 구글 내부가 아닌 외부에서 챗지피티와 같은 형태의 서비스로 먼저 상용화되어 대중에게 소개되었습니다. 이러한 일련의 과정들을 지금 되돌아보실 때 어떤 생각을 가지고 계시는지 궁금합니다.

​

순다르 피차이 Sundar Pichai : 그 부분은 약간의 오해가 있습니다. 아시다시피 트랜스포머나 TPU 같은 기술들은 모두 특정한 제품의 당면한 이슈를 해결하기 위한 과정에서 개발되었습니다. 예를 들어 번역 품질을 어떻게 하면 더 높일 수 있을까를 치열하게 고민하던 팀에서 트랜스포머가 탄생한 것처럼 말입니다.

​

TPU의 경우도 마찬가지입니다. 음성 인식 기술 자체는 TPU 이전에도 훌륭하게 작동하고 있었지만, 이를 갑자기 20억 명이라는 엄청난 사용자에게 서비스해야 하는 상황에 직면하게 되었습니다. 하지만 우리에게는 그만한 데이터를 처리할 칩이 턱없이 부족했습니다. 즉, 이렇게 거대한 규모의 추론 과정을 어떻게 감당하고 해결할 것인가에 대한 본질적인 고민의 결과물이 바로 TPU였습니다.

​

트랜스포머가 연구만 구글이 했고 배포는 안했다고 알고 계신 분들이 많은데, 발견 직후 즉각적으로 도입되었습니다. BERT와 MUM 모델을 예로 들 수 있는데, 구글이 워낙 엄격하고 철저하게 검색 품질을 측정하고 관리하다 보니 사람들은 이 기술들이 실제 서비스에 얼마나 깊이 적용되었는지 과소평가하는 경향이 있습니다.

​

당시 구글 검색이 타 경쟁사들을 멀찌감치 따돌리며 검색 품질에서 가장 거대한 도약을 이뤄낼 수 있었던 핵심적인 이유도 바로 이 BERT와 MUM 덕분이었습니다. 우리는 트랜스포머를 구축한 후, 언어와 웹페이지의 문맥을 파악하고 사용자의 검색어 의도를 더 깊이 이해하기 위해 이를 검색 서비스에 곧바로 투입했으며, 지속적으로 더 발전된 모델을 만들어 나갔습니다.

​

또한 내부적으로도 LaMDA라는 대화형 언어 모델을 개발하는 팀들을 꾸려 해당 기술의 상용화 작업을 이미 진행하고 있었습니다.

물론 대화형 AI 제품을 대중에게 가장 먼저 출시한 타이틀을 우리가 가져가지는 못했습니다. 하지만 이것을 두고 우리가 트랜스포머를 그저 순수 연구 목적으로만 방치했으며 실제 제품화 방향으로 응용하지 않았다고 보는 것은 사실과 다릅니다.

​

*코멘트 → 대화체라 조금 복잡하게 언급되어 있는데, 요약하자면 이렇습니다:

​

구글 AI 연구들은 '연구를 위한 연구'를 해서 나온 게 아니다. 제품 문제를 풀기 위해 연구하다가 나온 기술들이다. 트랜스포머는 구글 번역의 품질을 개선하기 위해서 나왔던 것이며 이를 기반으로 만든 모델이 'BERT', 'MUM'이었다. 이를 바탕으로 웹페이지의 문맥을 파악하고 사용자의 검색어 의도를 더 깊게 이해하도록 하여 검색엔진의 퀄리티를 높이는 데 오랫동안 써왔다. TPU도 초대규모 추론 수요에 대응하기 위해서 처음에 만들기 시작한 것이다.

​

존 콜리슨 : 정리하자면, 구글은 애초에 의도했던 목적대로 그 기술을 활용하여 이미 엄청난 투자 대비 효과를 거둔 셈입니다. 하지만 해당 기술을 기반으로 세상에 나온 모든 파생 제품들을 구글이 혼자서 전부 만들어낸 것은 아닙니다. 혁신적인 기초 기술이 탄생했을 때 그 밖에서 다양한 결과물이 파생되는 것은 너무나도 당연하고 자연스러운 흐름이라고 생각합니다.

​

​

순다르 피차이 Sundar Pichai : 구글은 ChatGPT와 같은 제품의 콘셉트까지 정확하게 구상하고 있었고, 그것이 바로 LaMDA였습니다. 기억하실지 모르겠지만 내부적으로 그 AI가 지각 능력을 갖추었다고 믿었던 엔지니어도 있었습니다. 즉, ChatGPT의 초기 버전이 이미 구글 내부에서 우리와 대화를 나누고 있었다고 생각하시면 됩니다.

어쩌면 다른 평행우주 어딘가에서는 구글이 그 제품 버전을 9개월쯤 먼저 출시했을지도 모르겠습니다.

​

사실 우리는 2022년 구글 I/O에서 AI Test kitchen이라는 것을 선보였는데, 그것이 바로 LaMDA였습니다. 하지만 당시 우리는 인간 피드백 기반 강화 학습(RLHF)이 적용된 완전한 엔드투엔드 버전을 가지고 있지 않았기 때문에 그 기능을 상당히 제한할 수밖에 없었습니다. 제가 내부에서 확인했던 버전은 당시로서는 도저히 대중에게 공개할 수 없을 정도로 유해한 답변을 생성할 위험을 안고 있었습니다. 게다가 구글은 오랜 시간 동안 검색 품질에 극도로 집착해 온 기업이기도 합니다.

​

그러다 보니 우리가 시장에 내놓을 수 있는 적절한 제품 품질에 대한 기준 자체가 타사에 비해 훨씬 더 높았을 것입니다. 그렇다고 해서 우리가 상용화할 생각이 없었던 것은 아니며, 단지 어떻게 하면 이 기술을 안전하고 올바르게 세상에 내놓을 수 있을지 그 방법을 치열하게 찾고 있던 중이었습니다.

​

또한 오픈AI가 세상을 놀라게 하며 제품을 출시했을 때조차도, 그들이 마이크로소프트와 본격적인 계약을 맺은 것은 불과 몇 달 전의 일이었습니다. 돌이켜보면 당시에는 모든 시장 상황이 지금처럼 완전히 명확하게 보이지는 않았다는 것을 알 수 있습니다. 제 생각에 그들은 GitHub를 통해 코딩 분야에서도 AI의 엄청난 가능성을 확인하는 행운을 누렸던 것 같습니다. 어쩌면 우리가 놓치고 있던 강력한 신호가 바로 거기에 있었을지도 모릅니다.

​

단순한 언어 처리 분야보다 코딩 분야에서 AI 모델의 단계적인 성능 도약이 훨씬 더 직관적이고 뚜렷하게 보였을 테니까요.

만약 코딩 작업에도 그 모델들을 활용하고 있었다면, GPT-2에서 GPT-3, 그리고 4로 넘어갈 때의 성능 향상이 훨씬 더 확연하게 느껴졌을 것이고, 성공을 확신할 만한 명확한 근거가 되었을 것입니다.

​

그래서 결론적으로 처음 해주신 질문에 답변을 드리자면, 일련의 과정들은 단순히 구글이 훌륭한 연구를 제품으로 연결하지 못해서 발생한 문제라기보다는, 제가 말씀드린 이처럼 다양하고 복합적인 다른 요인들이 크게 작용한 결과라고 생각합니다.

​

*코멘트 → 개인적으로 Gemini는 2024년 2월 15일 출시된 Gemini 1.5 Pro부터 좋아지기 시작했다고 전해드렸었습니다. 그래서 사실 2022~2023년에 어떻게 해왔는가가 지금 크게 중요하진 않기에 좀 더 객관적으로 비교할 수 있습니다.

​

*코멘트 → 현실적으로 구글 입장에서 챗봇 스타일의 검색엔진을 오픈AI보다 빠르게 출시할 수 없었던 이유를 꼽자면 LaMDA의 챗봇 성능이 기본적으로 GPT-3.5에 비해서 좋지 않았습니다. 정확히는 초점이 달랐습니다. LaMDA는 대화의 맥락을 이해하는 데에 초점을 맞춘 챗봇이었습니다. 사용자가 검색엔진에 검색어를 문장으로 개떡같이 말해서 넣더라도 찰떡같이 알아듣고 좋은 검색결과를 보여주는 데 초점을 맞춘 것입니다. GPT는 사람과 유사한 텍스트를 생성하는 능력에 맞춘 모델이었습니다. 초점 자체가 이랬다보니 LaMDA는 지도학습을 썼고, ChatGPT는 RLHF를 썼습니다. 사람들이 답변에 좋아요/싫어요 표시를 하면 그걸 피드백삼아 다음에는 더 사람같은 답변을 하도록 만드는 구조였습니다.

​

엘라드 길 Elad Gil : 저 역시 ChatGPT 개발에 참여했던 몇몇 사람들과 이야기를 나눴던 기억이 납니다.

제 기억으로 그들은 추수감사절 주간에 맞춰 서비스를 출시했었죠. 아시다시피 당시에는 세간의 이목을 끌지 않게 약간 조용히 묻어가는 듯한 출시였습니다.

​

이것이 세상을 뒤흔들 엄청나게 중요한 프로젝트라거나 자신들의 미래를 책임질 핵심적인 제품이 될 것이라고 대대적으로 내세우는 분위기가 전혀 아니었죠. 오히려 그들 스스로도 이를 아주 흥미로운 일종의 테스트 케이스 정도로 여겼던 것 같습니다. 네, 그런 과정들을 생각해보면 참으로 흥미롭습니다.

​

순다르 피차이 Sundar Pichai : 하지만 제가 이런 순간들을 받아들이는 방식은 이렇습니다. 소비자 대상의 인터넷 산업에 몸담고 있다면, 이런 예기치 못한 놀라운 일들은 언제든 마주할 수밖에 없다는 것입니다. 엘라드와 제가 구글에 있을 때를 떠올려 보면, 당시 구글에는 구글 비디오 검색이라는 서비스가 있었습니다. 그런데 갑자기 유튜브가 세상에 등장했고, 결국 우리는 유튜브를 인수하게 되었습니다. 페이스북의 경우를 생각해 봐도 마찬가지입니다. 인스타그램이 혜성처럼 등장했을 때, 사람들은 그 순간을 페이스북의 거대한 위기나 드라마처럼 심각하게 받아들이지 않았습니다. 페이스북이 곧바로 인스타그램을 인수해 버렸기 때문입니다.

​

제가 이 산업의 속성을 이해하고 내재화한 바는 이렇습니다. 소비자 인터넷 분야에서는 단 세 명의 사람만 모여앉아 프로토타입을 만들고 수백만 개의 새로운 무언가를 세상에 던져보는 일이 얼마든지 가능합니다. 제가 다른 누군가의 성과를 깎아내리려는 것은 절대 아닙니다만, 이 분야에서는 항상 이런 혁신적이고 파괴적인 순간들을 겪게 될 것이라는 뜻입니다.

​

누군가가 어느 날 아침 차고에서 깨어나 갑자기 지금의 아이폰보다 더 뛰어난 스마트폰을 뚝딱 만들어 출시하는 일은 아마 일어나지 않을 것입니다.

하드웨어 산업은 그런 식으로 돌아가지 않으니까요. 하지만 소비자 인터넷 산업은 완전히 다릅니다. 그렇기 때문에 우리는 항상 이러한 산업의 본질적인 특성을 명확히 인지하고, 이를 자연스러운 현실로 받아들여야만 합니다.

​

​

존 콜리슨 : 2026년 현재 펼쳐지고 있는 AI 경쟁 구도를 지켜보면서 제가 특히 인상 깊게 느끼는 점 중 하나는, 구글이 아주 오랜 기간 동안 응답속도(Latency)를 자신들만의 확고한 차별화 포인트로 삼아왔다는 사실입니다. 초창기 구글 검색은 정말 믿을 수 없을 정도로 빨랐고, 검색 결과 화면에 검색 소요 시간을 명시함으로써 자신들의 기술력을 은근히 자랑했던 것으로도 유명합니다.

​

또한 당시 경쟁 서비스들과 비교해 압도적으로 빨랐던 지메일의 검색 기능이나 크롬 브라우저 역시 속도를 향한 구글의 집착을 보여주는 좋은 예시입니다. 그리고 지금에 이르러서도 저는 각기 다른 목적에 따라 시중의 여러 AI 서비스들을 두루 사용해보고 있는데, 그중에서도 TPU를 기반으로 구동되는 제미나이의 속도는 빠른 편입니다. 그래서 저는 이처럼 빠른 속도를 구현하는 것이 구글의 의도적인 제품 전략인지, 어떤 철학을 가지고 계신지, 아니면 겉으로 보이는 것보다 훨씬 더 복잡하고 미묘한 배경이 얽혀 있는 것인지 생각이 궁금합니다.

​

순다르 피차이 Sundar Pichai : 저는 항상 속도의 가치를 깊이 내재화해 왔습니다. 이 자리에서는 이를 응답속도이자 지연시간(Latency)​이라고 부르겠습니다. 저는 이 짧은 지연시간이 훌륭한 제품을 구분 짓는 가장 중요한 특징 중 하나라고 생각하며, 이는 곧 해당 제품의 기술적 기반이 얼마나 탄탄하게 잘 갖춰져 있는지를 직관적으로 보여주는 지표이기도 합니다.

물론 제품을 시장에 내놓고, 피드백을 반영하여 개선하고, 다음 버전을 배포하는 출시 주기의 속도 역시 매우 중요합니다.

​

이 두 가지 속도는 모두 핵심적입니다. 하지만 지연 시간에 국한해서 말씀드리자면, 단순히 지연 시간을 짧게 유지하고 싶다고 말하는 것은 쉽지만, 현실에서는 끊임없이 새로운 기능들을 추가해야 하고 제품이 수행할 수 있는 역량의 한계치는 계속해서 높아지기 마련입니다. 그렇다면 이 둘 사이의 균형을 도대체 어떻게 맞출 것인가 하는 어려운 문제에 봉착하게 되며, 상황은 훨씬 더 복잡해집니다.

​

우리의 검색 서비스를 예로 들어보겠습니다. 앞서 개발 팀들에 대한 이야기를 했었는데, 현재 구글의 산하 팀들은 ms 단위의 지연 시간 예산이라는 것을 엄격하게 할당받아 관리하고 있습니다. 만약 어떤 팀이 시스템을 최적화하여 지연 시간을 3ms 단축하는 업데이트를 배포했다면, 그들은 그 절감분의 50%인 1.5ms를 자신들의 향후 기능 개발을 위해 쓸 수 있는 지연 시간 예산으로 보상받게 됩니다. 그리고 나머지 1.5ms는 사용자들에게 더 빠른 검색 환경을 제공하는 데 고스란히 환원되는 것이죠.

​

진행 중인 프로젝트의 성격이나 중요도에 따라 어떤 팀은 30ms, 또 어떤 팀은 10ms의 지연 시간 예산을 부여받기도 합니다. 팀들은 주어진 예산을 활용하여 새로운 기능을 추가할 수 있지만, 이를 위해서는 내부적으로 아주 엄격하고 철저한 검토 과정을 통과해야만 합니다. 이처럼 정교한 관리 시스템이 존재한다는 것 자체가, 구글이 속도라는 요소를 얼마나 타협할 수 없는 중요한 가치로 생각하고 있는지를 잘 보여준다고 생각합니다.

​

*코멘트 → Agentic AI 시대, 더 나아가 멀티 에이전트 시대를 준비하는 과정에서 화두가 된 Latency의 중요도에 대해서 보다 깊게 혹은 처음부터 보시려는 분들은 <엔비디아가 $20B를 주고 데려온 남자 : Groq 창업자 조나단 로스의 통찰>과 <엔비디아 GTC 2026 : 7개의 칩, 5개의 랙 시스템, 그리고 하나의 슈퍼컴퓨터> 자료를 살펴보시면 좋습니다.

​

*코멘트 → 특히 Groq 창업자인 조나단 로스의 통찰에서 가장 인상깊었던 건, 인간이 기본적으로 Latency에 민감하며 이것이 곧 사용자 경험의 만족도이자 충성도로 이어진다는 주장입니다. 그 예시로 든 것이 포장소비재(CPG) 산업에서 제품의 마진과 가장 높은 상관관계를 갖는 것이 '성분 작용 속도(도파민 사이클)'이라는 주장입니다. CPG 제품들 마진을 위에서 아래로 쭉 추려보면 흡연용 담배 > 씹는 담배 > 탄산음료 > 물 등등이 나오는데 우리 몸에서 도파민을 느끼게 하는 작용 속도의 빠르기들과 같기 때문입니다. 이를 구글과 페이스북도 이미 알고 있습니다.

​

*코멘트 → 2020년, 딜로이트와 구글이 공동 연구한 <Milliseconds Make Millions> 보고서에 따르면, 사람은 16ms 이내라면 사람 입장에서는 디지털 인터페이스를 살아있는 실체처럼 느낍니다. 그리고 100ms 이내에 반응하면 결과가 즉시 나타났다고 느끼는데 도파민 사이클이 형성되는 결정적인 구간입니다. 0.1초 안에 결과가 나오면 뇌는 자신의 행동에 대한 즉각적인 성취로 느낍니다. 그리고 Latency를 낮춰서 100ms 이내로 서비스했을 때에는 ⓐ소매업에서 구매 전환율은 8.4% 증가하고, 평균 주문가치는 9.2% 증가하며, 고객 참여도는 5.2% 증가합니다. ⓑ여행업에서는 구매 전환율이 10.1% 증가, 평균 주문가치는 1.9% 증가, 홈페이지 이탈율은 6.5% 개선됩니다. ⓒ럭셔리에서는 세션당 페이지 조회수가 8% 증가하며, ⓓ페이지를 바로 나가는 비율은 평균 5.4~6.5%씩 개선되는 효과였습니다. 전환율, 객단가, 이탈 방지 등 다양한 요소에 영향을 미친다는 것을 데이터로 확인한 보고서입니다.

​

*코멘트 → 2023년 메사추세츠 주 법원이 제기한 소송 도중 공개된 자료에 따르면 메타의 내부 고발자 아르투로 베자르(Arturo Bejar)는 메타가 내부적으로 앱이 뇌와 심리에 미치는 도파민 중독 등에 대해 연구했음​을 말한 바 있습니다.

​

엘라드 길 : 배경 설명을 위해 조금 덧붙이자면, 일반적으로 사람들은 지연 시간이 100~300ms대에 이르렀을 때 비로소 그 차이를 인지하기 시작하는 것으로 알고 있습니다. 제 생각이 맞나요? 사용자가 실제로 체감하는 영향이라는 측면에서 말입니다.

​

순다르 피차이 Sundar Pichai : 네, 정확합니다. 사실 저희가 가장 최근에 대시보드와 관련 지표들을 확인해 본 결과, 지난 5년 동안 검색 시스템의 지연 시간을 무려 30%나 단축한 것으로 나타났습니다. 그 기간 동안 검색 서비스에 얼마나 엄청난 기능적 발전과 추가가 있었는지를 함께 생각해 보신다면 이는 정말 뜻깊은 성과입니다.

​

이것이 바로 제미나이 프로젝트를 진행하면서 저희가 파레토 프론티어의 경계선, 즉 시스템의 역량과 속도 사이에서 최적의 균형을 확보하는 문제에 대해 그토록 깊이 고민하는 이유이기도 합니다. 이를테면 Gemini Flash 모델은 Gemini Pro 모델이 가진 전체 성능의 90%에 달하는 강력한 역량을 발휘하면서도 속도는 비교할 수 없이 훨씬 빠르며, 사용자에게 서비스를 제공하는 측면에서도 압도적으로 높은 효율성을 자랑합니다. 또한 구글 인프라 특유의 긴밀한 수직적 통합 역시 이러한 고성능과 고효율을 동시에 달성하는 데 매우 큰 도움이 되고 있습니다.

​

엘라드 길 : 그렇다면 검색의 미래에 대해서는 구체적으로 어떻게 전망하고 계십니까?

최근 많은 사람들이 채팅을 새로운 시대의 핵심 인터페이스로 꼽고 있기 때문입니다. 물론 구글의 경우 제미나이가 검색 서비스에 긴밀하게 통합되어 AI 기반의 향상된 검색 결과를 제공하고 있기는 합니다.

​

하지만 지금 업계 사람들의 화두는 단연 에이전트 주도적인 흐름입니다. 즉, 머지않아 모든 사람들이 자신만의 인공지능 개인 비서를 가지게 되고, 우리가 일일이 검색어를 입력하는 대신 AI 비서가 알아서 우리의 의도를 파악하고 필요한 작업들을 대신 수행해 줄 것이라는 전망입니다. 단순히 여행지에 대해 검색하고 질문하는 수준을 넘어, AI가 처음부터 끝까지 여행 계획 전체를 완벽하게 세워주는 것처럼 말입니다.

​

그렇다면 대표님께서는 이러한 변화 속에서 향후 검색의 본질적인 역할과 특징이 무엇이 될 것이라고 보시나요? 검색이라는 서비스가 단순히 정보를 전달하고 유통하는 메커니즘으로 남게 될까요, 아니면 완전히 새로운 차원의 미래형 제품으로 진화하게 될까요? 그것도 아니라면, 사람들이 세상의 수많은 정보와 상호작용하는 다양한 방식들 중 하나의 선택지로 자리매김하게 될까요?

​

순다르 피차이 Sundar Pichai : 검색 분야에서는 패러다임이 바뀔 때마다 우리가 할 수 있는 일이 더 많아진다고 생각합니다. 따라서 우리는 항상 새로운 기술적 역량들을 적극적으로 흡수하여 제품의 한계를 끊임없이 확장하고 진화시켜 나가야만 합니다. 모바일 시대를 예로 들자면, 제품은 우리의 예상보다 훨씬 더 빠르게 진화했습니다. 뉴욕의 복잡한 지하철역에서 막 빠져나와 급하게 웹페이지를 검색하는 상황을 상상해 보시기 바랍니다. 당장 어딘가로 가야 하는데 길을 어떻게 찾으시겠습니까?

이렇듯 우리가 처한 환경은 끊임없이 변화하고 서비스에 대한 사람들의 기대치 역시 계속해서 달라지며, 우리는 그 흐름에 발맞춰 끊임없이 나아가고 있습니다.

​

조금 더 먼 미래를 내다보자면, 현재 단순히 정보를 탐색하는 수준에 머물러 있는 수많은 검색 과정들이 앞으로는 검색 시스템 내에서 AI 에이전트 주도적인 형태로 완전히 탈바꿈하게 될 것입니다. 즉, 사용자들은 여러 가지 작업의 맥락을 동시에 유지하면서 AI의 도움을 받아 복잡한 과제들을 끝까지 완수해 내는 완전히 새로운 형태의 검색을 경험하게 될 것입니다.

​

엘라드 길 : 검색엔진이 10년 뒤에도 있을까요?

​

​

순다르 피차이 Sundar Pichai : 미래의 검색 시스템은 일종의 에이전트 관리자 역할을 하게 될 것입니다. 그 안에서 사용자는 아주 다양한 일들을 처리하게 되겠죠. 어떤 의미에서 제가 현재 사용하는 Antigravity와 같은 시스템을 보면, 이미 수많은 에이전트들이 각자의 위치에서 알아서 다양한 작업들을 수행하고 있습니다. 저는 앞으로의 검색 서비스가 바로 그러한 기능들의 진화된 버전을 수행하게 될 것이라고 봅니다. 즉, 사용자는 단순히 정보를 찾는 것을 넘어 검색을 통해 수많은 복잡한 작업들을 한 번에 손쉽게 완수할 수 있게 될 것입니다.

​

존 콜리슨 : 하지만 아마 엘라드님이 질문하신 의도의 근본적인 바탕에는 이런 생각이 깔려 있는 것 같습니다. 검색이라는 것을 단순히 사용자에게 딱 떨어지는 정답을 곧바로 알려주는 시스템이 아니라, 한 줄 정도 길이의 짧은 명령어를 입력하여 중요도 순으로 정렬된 수많은 결과물들을 나열해 보여주는 방식이라고 정의한다면 말입니다.

그렇다면 질문의 핵심은 과연 그러한 기존의 검색 형태가 미래의 완전히 달라진 환경 속에서도 여전히 유효할 것인가 하는 물음이라고 생각합니다.

​

순다르 피차이 Sundar Pichai : 하지만 오늘날 검색의 AI 모드에서 사람들은 이미 아주 깊이 있는 탐색이나 연구 목적의 질문을 던지고 있습니다. 이는 방금 말씀하신 한 줄짜리 단순한 검색의 정의와는 전혀 들어맞지 않는 현상이죠. 하지만 사람들은 이미 그런 새로운 방식에 꽤나 자연스럽게 적응했습니다. 그렇기 때문에 저는 앞으로 사용자들이 검색 시스템을 통해 훨씬 더 길고 복잡한 과정이 수반되는 장기적인 작업들을 자연스럽게 수행하게 될 것이라고 생각합니다.

​

엘라드 길 : 마치 생명체가 단세포 생물에서 시작해 지금의 복잡한 형태로 진화한 것처럼 말입니다. 그래서 제가 드리는 질문의 본질은 이와 같습니다. 과연 그 이전 버전, 즉 기존의 검색 패러다임이 결국엔 완전히 사라지게 될 것인가 하는 점입니다. 과거에 우리가 검색이라고 부르던 것이 결국 하나의 에이전트로 진화하고 미래의 지배적인 인터페이스 역시 에이전트로 대체되면서, 10년 후나 미래의 어느 시점에는 우리가 지금 익숙하게 사용하는 형태의 검색창 자체가 아예 자취를 감추게 될지 여쭤보고 싶습니다.

​

순다르 피차이 Sundar Pichai : 제 생각에 앞으로 기기들의 형태(폼팩터)는 계속해서 변할 것이고, 입출력(I/O) 방식 또한 근본적인 변화를 맞이할 것입니다. 그렇기 때문에 10년 후의 미래를 미리 재단하고 상상하는 것은 오히려 스스로를 얽매고 마비시키는 일일 수 있습니다. 하지만 우리는 다행스럽게도 단 1년 앞만 내다봐도 충분한, 기술 발전의 곡선이 믿을 수 없을 만큼 가파른 시대를 살고 있습니다.

단 1년 후의 미래를 준비하고 실행하는 것만으로도 가슴이 뛸 정도로 흥미진진하죠. 과거에는 자리에 앉아 5년 후를 길게 구상해야 했을지도 모르지만, 지금은 당장 1년 뒤면 AI 모델들이 완전히 다른 수준으로 발전해 있을 것입니다. 따라서 이 가파른 발전의 파도에 직접 올라타는 것 자체가 무척 짜릿한 경험이라고 생각합니다.

​

물론 기술은 앞으로도 계속 진화할 것이며, 지금은 명백한 확장의 시기입니다. 이런 격변의 시기에 많은 사람들이 흔히 간과하는 사실이 하나 있는데, 제가 보기에 현재의 시장 상황은 제로섬 게임과는 완전히 거리가 멀다는 것입니다. 사람들이 AI를 활용하여 새롭게 창출해낼 수 있는 가치의 크기 역시 엄청난 상승 곡선을 그리고 있기 때문입니다.

​

상황을 이런 관점에서 바라보기 시작하면 세간의 수많은 우려와 질문들에 대한 답이 명확해집니다. 틱톡과 인스타그램이 등장하며 시장을 뒤흔들었음에도 불구하고 유튜브가 여전히 훌륭하게 성장하고 있는 것처럼, 비슷한 예시는 얼마든지 찾아볼 수 있습니다. 시장을 누군가 파이를 빼앗겨야 하는 제로섬 게임으로 인식할수록 미래는 더 어둡고 험난해 보일 것입니다. 물론 우리가 스스로 혁신을 멈추거나 제품을 더 이상 진화시키지 못한다면, 결국 그 시장은 제로섬 게임으로 전락하고 말 것입니다. 하지만 우리가 끊임없이 기술의 최전선에 서서 혁신을 주도하는 한 그런 일은 일어나지 않을 것입니다.

​

구글은 현재 기존의 검색 서비스와 제미나이 양쪽 모두에 전력을 다하고 있습니다. 이 두 가지 영역은 향후 어떤 면에서는 자연스럽게 겹치고 융합되겠지만, 또 다른 면에서는 각자의 본질에 맞게 완전히 다른 방향으로 깊이 뻗어나갈 것입니다.

그렇기 때문에 저는 검색과 AI 에이전트라는 두 가지 강력한 무기를 모두 쥐고, 앞으로 다가올 변화들을 기꺼이 포용하며 나아가는 것이 올바른 방향이라고 확신합니다.

​

*코멘트 → 구글은 이미 몇 차례의 변신에 성공하고 살아남은 기업이기도 합니다. 이에 대해서 2024년 6월에 전해드렸던 <구글 AI 오버뷰 : 30년 된 링크연결식 검색을 바꾸다> 자료의 내용을 녹여볼까 합니다.

​

1990년대 인터넷의 등장, 최초의 검색엔진 'Archie Query Form'

1990년대 중반만 하더라도 인터넷을 사용하는 사람도 적었고 페이지는 더더욱 적었기에 검색엔진이라는 개념이 없었습니다. 당시 가장 인기있던 페이지인 야후(Yahoo!)는 일종의 즐겨찾기목록에 가까웠습니다. 창업자들이 인터넷을 돌아다니다가 좋아보이는 사이트가 있으면 야후의 첫 페이지에 등록해두는 식이었습니다. 그런데 인터넷 사용자가 늘면서 웹 전체를 찾고자 하는 최초의 검색엔진이 등장했습니다. 아치(Archie Query Form)나 웹 크롤러(WebCrawler)가 대표적이었습니다. 1990년에 나왔던 아치나 1994년에 나온 웹 크롤러는 인터넷에 올라와 있는 모든 웹사이트를 읽어가면서 똑같은 문자가 똑같은 순서로 들어간 웹사이트를 찾아주는 기능을 제공했습니다. 초창기 검색엔진은 말그대로 페이지 내 찾기(Ctrl + F) 기능과 비슷했습니다.

​

구글이 등장하기 전 검색엔진의 문제

그 뒤로 수많은 기업들이 검색엔진을 개발했지만 정보의 바다 속에서 원하는 정보가 담긴 웹사이트를 정확히 찾아낸다는 건 사막에서 바늘찾기보다 어려웠습니다. 당시 대부분의 검색엔진이 'TF-IDF(Term Frequency-Invesrse Document Frequency)'방식을 쓰고 있었기 때문입니다.

간단하게 보자면 검색엔진이 한 페이지에 찾고자하는 단어가 얼마나 많이 들어있냐를 분석해서 보여주는 것이었습니다. '집밥'을 검색할 경우 '집밥'이 한 페이지에 몇 개나 들어가 있느냐로 검색결과 상위에 보여주는 식이었죠. 그러나 문제는 '집 밥'으로만 띄어써도 다른 단어로 인식해서 검색결과에 노출되지 않는다는 점과, 검색결과 상단에 노출되기 위해 페이지 전체를 '집밥'으로 도배하는 어뷰징에 취약하다는 게 문제였습니다.

​

지금의 구글을 만든 논문 한 편

그러다 1998년, 지금 시대의 AI가 그랬듯이 두 천재가 만든 새로운 검색엔진이 등장했습니다. 바로 <The Anatomy of a Large-Scale Hypertextual Web Search Engine>이라는 논문에서 시작된 아이디어였습니다. '하이퍼텍스트를 적극 활용하는 대규모 검색 엔진의 프로토타입'에 대한 논문이었죠. 그 프로토타입의 이름이 바로 "구글(Google)"이었습니다. 위 논문의 핵심이었기도 하고 현재까지 구글의 메인 검색엔진 알고리즘을 책임지고 있는 페이지랭크(PageRank, 특허 2019년 만료)가 탄생한 시점이었습니다. 간단하게 보자면 '사람들이 무엇을 찾고자 하는 것인지'에 대한 값을 이해하기 위해서 ⓐ사람들이 어떤 페이지를 가장 많이 찾는지 ⓑ영향력 있는 페이지가 얼마나 많이 인용하고 있는지를 가중치화시키는 알고리즘이었습니다.

​

그러다가 스마트폰이 나왔습니다. 구글 입장에서는 폼팩터가 바뀐 시기였습니다.

​

2007년 아이폰의 등장, 새로운 검색엔진의 시대

1990년대 후반부터 2000년까지 닷컴버블을 지나오며 덕분에 빠르게 광대역 인터넷이 전 세계에 깔렸습니다.

이 기반 위에서 새로운 디바이스 폼팩터가 등장했습니다. 아이폰이 팔리기 시작한 2007년부터 검색행동이 다시 한 번 바뀌기 시작했습니다. 모바일로 검색하는 양이 처음 생겨났고 서서히 증가했습니다. 미국에서만 보자면 전체 검색 트래픽 중 모바일 비중이 2007년 0% → 2015년 45%로 빠르게 증가했습니다.

​

스스로 파괴적 혁신을 시도한 구글

구글은 초기부터 모바일에 집중했습니다. 모바일 검색량이 증가하는 시기에, 시장은 모바일 검색이 기존 데스크톱 검색 대비 상대적으로 수익화(Monitization) 잠재력이 낮을 것이라는 걸 우려했습니다. 하지만 결국 검색광고 점유율에서 차지하는 비중이 높아질수록 모바일 검색광고에 대한 광고단가도 같이 높아져 격차가 좁혀졌습니다. 데스크톱에서 차지하는 검색점유율은 2009년 1월 90.2%에서 → 2024년 5월 80.5%로 낮아졌지만, 모바일 침투를 빠르게 선택한 덕분에 전체 검색시장 점유율은 '09년 90.3% 대비 '24년 5월 90.8%로 오히려 더 상승했습니다. 새로운 시대가 왔음을 느끼고 모바일에 맞도록 검색엔진의 옷을 바꿔입어 적응하는 유연함을 보여준 것입니다.

​

구글은 오래 전부터 AI 시대를 준비해왔다

구글이 AI 시대에 맞춰서 검색엔진을 바꿔오기 시작한 건 2018년부터였습니다. 처음으로 제로클릭 검색을 선보였기 때문입니다. 여기서 제로클릭이란 링크를 클릭해서 정보를 얻지 않고도 첫 페이지에 검색결과를 보여주는 방식입니다. 원래는 ㄱ) 검색어 입력 → 링크 클릭 → 정보획득이었지만 일부 검색어에 한해서 이를 ㄴ) 검색어 입력 → 정보획득 구조로 바꾸는 것입니다.

2019년까지도 제로클릭 검색결과 비중이 꾸준히 늘어왔고 → 2022년에는 데스크톱 검색결과의 26%, 모바일의 17% 검색결과가 제로클릭 검색결과였습니다. 검색의도 세 가지 중 ⓒ물어보기 위한 검색(Informational Search) 중에서 빠른 답변을 원하는 것과 길고 자세한 답변을 원하는 것 중, 15초 이내로 빠른 답변을 원하는 사람들이 늘어났고 구글은 그에 맞춰서 제로클릭 답변량을 늘렸었습니다.

​

*코멘트 → 지금의 구글에 대해서도 이전 기업분석 자료들을 통해서 쭉 전해드렸었지만, 이전에 구글이 살아남아온 스토리에 대해서는 많이 알려져있지 않아 따로 예전 자료에서 한 번 가져와봤습니다.

​

존 콜리슨 : 검색의 현주소와 미래의 방향성 등에 대해 이야기하다 보니, 불과 1년 전인 2025년 봄과 여름 즈음만 해도 구글을 향한 시장의 분위기가 매우 부정적이었다는 사실이 떠오릅니다. 당시 지배적인 시각은 구글 검색은 이제 끝났고 앞으로 정말 힘든 시기를 겪게 될 것이며, 회사의 핵심 비즈니스 모델이 심각한 위협을 받고 있다는 식의 비관적인 이야기들이 주를 이뤘습니다. 당시 구글의 주가는 $150 안팎에서 거래되고 있었죠.

​

하지만 지금 와서 사람들은 그때의 비관론이 얼마나 어리석은 것이었는지를 깨닫고 있습니다. 애플리케이션부터 AI 모델, TPU에 이르기까지 구글은 기술 스택의 전반에 걸쳐 탄탄한 역량을 갖추고 있으며, 웨이모나 유튜브를 비롯한 수많은 멋진 혁신 프로젝트들 역시 아주 훌륭하게 성과를 내고 있다는 것이 증명되었기 때문입니다.

​

그렇다면 일종의 정보에 밝은 시장 여론을 대변한다고 볼 수 있는 투자자들이 작년 이맘때 구글에 대해 도대체 어떤 부분을 단단히 오해하고 있었다고 생각하시나요?

​

순다르 피차이 Sundar Pichai : 구글이 갖춘 능력은 그때나 지금이나 같았습니다. 2025년 당시에 우리는 그당시 이미 7세대 TPU를 다루고 있었습니다. 제 기억으로는 아마 2016년 구글 I/O 당시 구글은 대중에게 처음으로 TPU를 발표하며 구글이 AI 전용 데이터 센터를 구축하고 있다는 사실을 알렸습니다. 무려 2016년의 일입니다.

​

당시 우리는 회사가 AI 우선 방식으로 운영되어야 한다고 생각했고, 이러한 거대한 패러다임의 전환을 내부적으로 이미 깊이 내재화하고 있었습니다. 물론 최전선의 최신 LLM 경쟁이라는 측면에서만 본다면 당시 우리가 타사에 비해 조금 뒤처져 있었던 것은 사실입니다. 하지만 우리는 내부적으로 이미 그 판도를 뒤집을 수 있는 모든 역량을 충분히 갖추고 있었고, 단지 시대의 요구와 그 결정적인 순간에 맞춰 제대로 실행해 내기만 하면 되는 상황이었습니다.

​

구글은 세계 최고 수준의 연구 팀과 거대한 인프라 팀, 그리고 모든 것을 뒷받침할 플랫폼을 이미 온전히 보유하고 있었으며, 이를 바탕으로 다방면의 비즈니스에 아주 의도적이고 전략적인 투자를 지속해 오고 있었습니다. 그리고 어느 순간 저는 우리가 구글 검색부터 유튜브, 클라우드, 그리고 자율주행인 웨이모에 이르기까지 구글의 이 모든 비즈니스들을 한꺼번에 가속할 수 있는 단 하나의 강력하고 공통된 핵심 기술을 쥐고 있다는 사실을 깨달았습니다. 구글의 모든 서비스들이 바로 이 AI 기술의 발전에 의존하고 있었던 것이죠. 즉, 이는 회사의 전체적인 발전을 이끌어낼 수 있는 엄청난 레버리지를 가진 효율적인 방식이었습니다.

​

그래서 저는 이 상황을 명확히 이해하고 있었으며, 앞서 나누었던 대화의 맥락과 마찬가지로 이 격변의 시기를 누군가 패배해야만 하는 제로섬 게임의 순간으로 전혀 인식하지 않았습니다. 오히려 저는 앞으로 모든 산업의 규모가 10배 이상 거대하게 확장될 것이라고 느꼈습니다. 파이가 커지는 만큼 시장에는 당연히 타사들이 활약할 수 있는 충분한 공간이 생겨날 것입니다.

​

과거를 되돌아보면 구글이 인터넷 시장에 본격적으로 등장하고 자리 잡은 이후에도 아마존이나 페이스북 같은 기업들은 여전히 엄청난 성장을 이뤄냈습니다. 사람들은 이렇듯 거대한 기술의 물결 속에서 전체 시장이 어떻게 동반 성장하는지에 대한 긍정적인 시나리오를 종종 과소평가하곤 합니다. 시장의 파이는 분명히 계속 커질 것입니다. 하지만 그와는 별개로 우리는 기업으로서 이 기술을 더 나은 방향으로, 더 훌륭하게 실행에 옮기고 시장에 증명해 내야만 했습니다. 그것이 바로 제가 다른 외부의 소음들보다 우리 스스로의 실행력에 더욱 철저하게 집중했던 이유입니다.

CY26 AI CapEx와 병목

판돈의 크기가 확신의 크기를 대변한다

​

존 콜리슨 : 그렇다면 외부 사람들에게 '아, 구글이 드디어 이 상황을 완벽하게 통제하고 제대로 해냈구나'라고 확실하게 증명해 보여준 결정적인 계기가 있었나요? 사람들의 삶에 혁신적인 변화를 가져온 제미나이 3의 출시가 그 기점이었나요? 제가 당시의 모든 타임라인과 일련의 과정들을 완벽하게 꿰고 있지는 못해서, 사람들의 인식을 바꾼 그 정확한 시점이나 사건이 무엇이었는지 궁금합니다.

​

​

순다르 피차이 Sundar Pichai : 대중들이 체감하게 만든 실질적인 모델은 아마도 Gemini 2.5 Pro였을 것이라고 생각합니다.

특히 텍스트, 이미지, 오디오 등 다양한 형태의 데이터를 동시에 처리하는 멀티모달리티 영역의 프론티어에 도달하면서 우리는 수많은 진전을 이루어냈습니다. 이는 전적으로 구글 딥마인드 팀들의 헌신과 노력 덕분입니다. 초기에 남들보다 조금 더 많은 고정 비용과 시간을 투자하는 길을 택했지만, 대신 제미나이 모델을 개발하는 첫날부터 완벽한 멀티모달 기반으로 작동하도록 설계했습니다.

​

그 결과 특정 영역들에서 구글만의 뚜렷한 강점이 본격적으로 드러나기 시작했습니다. Nano Banana가 대표적인 예시입니다. 해당 모델부터는 우리의 모든 기술적 역량이 하나로 결집되어 시너지를 내는 것을 직접 눈으로 확인할 수 있었습니다. 하지만 AI 기술의 최전선은 지금 여러분이 보시는 바와 같이 놀라울 정도로 역동적으로 흘러가고 있습니다. 현재 업계 최고 수준을 다투는 세 곳의 AI Labs들이 아주 치열하게 서로를 한계치까지 밀어붙이며 경쟁을 주도하고 있습니다.

​

어느 달에는 우리가 드디어 엄청난 걸 해냈구나 하며 성취감을 느끼다가도, 막상 둘러보면 또 다른 어떤 세부적인 부분에서는 타사보다 뒤처져 있다는 사실을 깨닫게 되곤 합니다. 하지만 불과 몇 달 뒤면 이 경쟁의 판도는 또다시 완전히 새롭고 역동적으로 뒤바뀔 것입니다. 여러분 모두가 예상하시는 것처럼, 지금 기술의 최전선에서 벌어지는 경쟁은 이토록 숨 막히게 치열하고 뜨겁습니다.

​

엘라드 길 : 제가 다른 AI 연구소의 연구원들과 대화를 나누다 보면 아주 흥미로운 이야기를 듣게 됩니다. 그들이 공통적으로 언급하는 바에 따르면, 현재 업계를 선도하는 다른 두세 곳의 연구소들과 구글 팀 사이에는 뚜렷한 인식의 차이가 존재하는데, 그들은 이를 두고 구글은 상대적으로 AGI 맹신론에 덜 빠져 있는 것 같다고 표현하더군요.

AGI의 도래가 당장 코앞으로 다가왔고 이를 통해 세상의 변화가 기하급수적으로 가속화될 것이라는 맹목적인 믿음이 타사에 비해 구글 내부에는 다소 적어 보인다는 뜻입니다. 물론 구글의 구성원들 역시 이 문제에 대해 그 누구보다 깊이 고민하고 있겠지만 말입니다.

​

그래서 대표님께 두 가지를 여쭤보고 싶습니다. 첫째, 외부에서 바라보는 이러한 시각이 사실이라고 생각하시나요? 둘째, 만약 그렇다면 이러한 관점의 차이가 향후 미래가 실제로 어떤 모습일지에 대한 구상, 나아가 사람들이 궁극적으로 무엇을 목표로 기술을 개발해 나가야 하는지에 대한 방향성에도 어떠한 형태로든 영향을 미친다고 보시는지 궁금합니다.

​

순다르 피차이 Sundar Pichai : 저희는 연간 CapEx 규모를 $30B에서 시작해 올해는 $180B 수준으로 대폭 늘렸습니다. 이는 어마어마한 규모의 자금입니다. 앞으로의 기술 발전 곡선에 대한 확고한 믿음과 이해가 없다면 결코 단행할 수 없는 결정이죠. 타 연구소들과 구글의 인식 차이에 대한 이야기는 주로 표현 방식과 관련된 의미론적인 문제라고 봅니다. 구글은 수많은 계층의 방대한 사용자들에게 맞닿아 있는 다양한 제품을 서비스하는 거대한 기업이기 때문에, 이 기술에 대해 이야기할 때 사용하는 언어나 접근 방식이 다를 수밖에 없습니다.

​

구글의 창립자들 역시 처음부터 AGI의 가능성을 굳게 믿고 있었습니다. 제가 나누었던 아주 초창기의 대화들에서도 그랬죠. 그래서 구글이 AGI의 본질이나 그 파급력을 제대로 이해하지 못하고 있다는 외부의 시각은 사실과 다릅니다. 데미스 하사비스 팀이나 제프 딘 팀을 보십시오.

한때는 데미스 허사비스, 제프 딘, 일리야 수츠케버, 다리오 아모데이 같은 업계 최고의 인재들이 모두 구글이라는 한 지붕 아래 모여 있었습니다.

​

물론 샌프란시스코에 본사를 둔 신생 기업이거나 순수 연구 중심의 조직이라는 점 등, 여러 작은 환경적 특성들이 겉으로 드러나는 조직의 분위기나 태도에 차이를 만들 수는 있을 것입니다. 하지만 근본적인 수준에서 향후 기술 발전 곡선이 어떻게 흘러갈지에 대한 전망이나, 우리가 이 기술을 어떻게 내재화하고 받아들이는지에 있어서는 다른 연구소들과 아무런 차이가 없다고 생각합니다.

​

구글 내부를 들여다보면, 기술의 최전선에서 인공지능 에이전트를 직접 구동하며 이 시스템이 과연 어디까지 해낼 수 있는지 끊임없이 테스트하는 사람들이 있습니다. 이들은 에이전트가 새로운 능력을 학습하고 복잡한 작업을 수행하는 과정을 실시간으로 지켜보며, 불과 3개월 전까지만 해도 한계에 부딪혀서 못했던 것들을 지금은 손쉽게 가능할 정도로 매우 빠르게 발전하고 있는 모습을 매 순간 비교하고 있습니다. 즉, 우리는 구글 내부에서 이 기하급수적인 기술의 도약을 이미 생생한 현실로 경험하며 살아가고 있습니다.

​

존 콜리슨 : 최근의 일련의 과정들을 겪으시면서, AGI가 다가오고 있다고 체감했던 구체적인 순간들에 대해 개인적으로 어떤 감정들을 느끼셨나요? 혹은, 본인은 지금 어느 정도로 AI에 푹 빠져 계신다고 생각하시나요?

​

순다르 피차이 Sundar Pichai : 제가 처음으로 AGI의 도래를 실감했던 순간은 2012년이었습니다. 당시 제프 딘이 구글 브레인의 극초기 버전을 시연했는데, 바로 인공신경망이 고양이 이미지를 인식해 냈던 순간입니다.

또한 래리 페이지와 함께 다르파 자율주행 챌린지에 참관했던 적도 있었습니다. 정확한 연도는 다시 확인해 보아야겠지만 아마 2014년쯤이었을 겁니다. 그곳에서 자동차들이 스스로 주행하는 모습을 지켜보았고, 우리가 상상력이라고 부를 법한 능력을 갖춘 초기 AI 모델들의 놀라운 시연을 보았습니다.

​

돌이켜보면 그동안 그런 경이로운 순간들이 참 많았습니다. 이처럼 기술이 엄청난 속도로 발전하고 있다는 사실은 너무나도 명백했으며, 현재를 살아가는 우리 모두는 그 변화를 본능적으로 생생하게 체감하고 있습니다

​

지금 시점에서 가장 와닿는 예시를 꼽자면 코딩을 할 때였습니다. AI에게 아주 복잡한 작업을 지시해 두고 IDE를 단 한 번도 열지 않은 채, 일종의 에이전트 매니저 환경 안에서 AI가 스스로 알아서 그 모든 코딩 작업을 완수해 내는 과정을 그저 지켜보기만 했던 적이 있는데 그 경험이 얼마나 강력하고 압도적인지 모릅니다. 그러한 경험을 두고 AGI를 체감한다고 표현할 수 있다면, 제게는 바로 그런 순간들이 AGI의 존재를 피부로 느끼는 순간들입니다.

​

엘라드 길 : 아까 이 시장이 제로섬 게임이 아니며 사람들이 이미 전반적인 생산성 향상을 체감하고 있다고 말씀해 주셨습니다. 과거의 여러 기술 발전 주기들을 되돌아보면, 인터넷이나 모바일, 혹은 SaaS 같은 혁신적인 기술들이 실제 국가의 GDP 수치에 유의미한 결과로 나타나기까지는 제법 오랜 시간이 걸렸습니다. 현재 AI 산업의 맥락에서 보자면, 우리는 데이터센터 인프라를 거대하게 구축하는 과정을 통해 그 영향을 가장 먼저 체감하고 있으며, 이것이 현재 국가 GDP 성장의 일부분을 견인하고 있는 상황입니다.

​

그렇다면 여기서 3년에서 4년 정도 더 먼 미래를 내다보았을 때 이 상황이 어떻게 전개될 것이라고 보시나요? 인공지능 기술로 인해 향후 미국 경제의 규모가 지금보다 더 커질 것이라고 전망하시는지, 그리고 만약 그렇다면 구체적으로 어느 정도의 폭발적인 성장을 이룰 것이라고 예상하시는지 궁금합니다.

​

순다르 피차이 Sundar Pichai : 지금 현재 구글이 처한 상황을 아주 명확하게 말씀드리자면, 우리는 인프라의 공급이 폭발적인 수요를 쫓아가지 못할 정도로 심각한 공급 제한을 겪고 있습니다(To be very clear, you know, we are supply constrained). 구글이 제공하고 있는 모든 제품과 서비스 영역 전반에 걸쳐 엄청난 수요가 몰려들고 있기 때문입니다.

​

엘라드 길 : 사실 저는 AI가 거대한 시장을 형성하고 엄청난 결과물을 만들어낼 것이라는 점에 대해서는 추호의 의심도 없습니다. 그래서 제가 드리고 싶은 질문의 핵심은 이렇습니다.

​

저는 현재 사람들이 AI의 잠재력을 과소평가하고 있는 부분들이 아주 많다고 생각합니다. 예를 들어, 사람들은 종종 소프트웨어 엔지니어링 예산에 대해 이야기하면서 그중 AI 사용에 드는 토큰 비용과 사람의 인건비가 각각 차지하는 비율이 얼마나 되는지 따져보곤 합니다.

​

하지만 다른 관점에서 보면, 그동안 이 시장은 뛰어난 소프트웨어 엔지니어에 대한 수요는 폭발적인데 반해 공급이 턱없이 부족하여 항상 억눌려 있던 상태였습니다. 따라서 AI라는 새로운 형태의 공급 역량이 시장에 투입된다면, 시장의 규모 자체가 단숨에 10배 이상 거대해질 수 있다고 봅니다.

​

소프트웨어 엔지니어링 및 코딩 시장의 잠재력은 사람들이 상상하는 것보다 훨씬 더 비약적으로 크며, 단순히 엔지니어 인건비를 AI 토큰 예산으로 대체하는 비율 따위를 따지는 것은 시장을 측정하는 완전히 잘못된 기준이라는 뜻입니다.

​

그래서 저는 AI가 실제로 수많은 분야에서 폭발적인 성장을 이끌어낼 것이라고 굳게 믿습니다. 앞서 제가 드렸던 질문은, 이러한 흐름 속에서 결과적으로 얼마나 엄청난 규모의 성장이 실현될 것이라고 전망하시는지 대표님의 시각이 순수하게 궁금했던 것입니다. 막대한 CapEx 대비 결과물의 가치나 경제성 자체에 대해 회의적인 시각을 가지고 던진 질문이 아니었습니다.

​

순다르 피차이 Sundar Pichai : 과거 인터넷 시대를 되돌아보고 당시의 GDP 성장률을 살펴보면, 실제로 우리가 일상에서 인터넷을 통해 체감했던 그 거대한 변화와 혁신이 단순한 경제 지표상에는 온전히 반영되지 않았음을 알 수 있습니다. 어쩌면 인터넷이 없었다면 국가 경제가 오히려 마이너스 성장을 기록했을지도 모를 일이죠. 이처럼 어떤 기술이 가져올 미래의 경제적 파급력을 수치로 정확히 예측하는 것은 무척 어려운 일입니다.

​

다만, 저는 우리 사회의 여러 계층과 영역 전반에 걸쳐 이러한 급격한 변화의 속도를 제어하는 자연스러운 완충 장치들이 존재한다고 생각합니다. 가장 명백한 예로, 컴퓨팅 인프라 시설을 구축하고 확장하는 속도의 곡선은 우리가 AI 모델 자체의 성능을 향상시키는 속도의 곡선과는 완전히 다릅니다. 물리적인 인프라를 구축하는 과정에는 이미 훨씬 더 까다롭고 엄격한 제약들이 따르기 마련이니까요.

​

그다음으로 직면하는 과제는 바로 이 기술을 '어떻게 사회 전반에 확산시킬 것인가'입니다. 구글이 자율주행인 웨이모를 통해 겪고 있는 과정이 정확히 그렇습니다. 기술적으로는 자율주행 차량을 인간 운전자보다 훨씬 더 안전하게 만들 수 있지만, 그것을 실제 대중에게 도입하고 서비스 지역을 확장하는 속도에 있어서는 극도로 신중하고 조심스러울 수밖에 없습니다. 즉, 이 강력한 기술을 어떻게 하면 '책임감 있게' 사회에 스며들게 할 것인가 하는 문제이며, 이 과정의 모든 단계마다 피할 수 없는 제약과 현실적인 벽들이 존재합니다.

​

하지만 현재 미국의 경제 규모는 10년 전과는 비교도 할 수 없을 만큼 거대해졌습니다. 이토록 거대한 규모의 경제에서 단 0.5%p의 추가적인 성장만 이끌어낸다 하더라도, 그것은 전체 경제에 실로 막대한 기여를 하는 셈입니다. 저는 AI가 궁극적으로 그와 같은 방식으로 거대한 경제적 가치를 창출하며 우리 사회에 안착할 것이라고 기대하고 있습니다.

​

존 콜리슨 : 방금 공급 제약 문제를 언급해 주셨는데, 저는 이 부분이 기본적으로 2026년 현재의 산업 지형을 가장 명확하게 정의하는 특징이라고 생각합니다.

​

제가 정말 흥미롭게 생각하는 점은, 구글이 설령 원한다고 하더라도 당장 $400B라는 막대한 자본을 인프라에 지출할 수는 없다는 것입니다. 왜냐하면 엄청난 규모를 뒷받침할 메모리 반도체의 물량도 턱없이 부족할뿐더러, 필요한 전력망 인프라나 기타 수많은 핵심 하드웨어 부품들 역시 현재 시장에 충분히 존재하지 않기 때문입니다.

​

*코멘트 → 왜 구글은 올해 $180B만 투자하고 혹은 많이 하더라도 10~20% 정도만 더 추가하고, $400B 가까이 이른바 '더블'을 지금 투자하진 않는가?에 대한 답을 좀 더 명확하게 해준 건 <앤스로픽 CEO 다리오 아모데이의 인터뷰>입니다.

AI CapEx 전체에 대해서, AGI로 가는 방향에 대해서, 어떻게 수익화하는가에 대해서 등등 원문은 워낙 중요한 통찰들이 많아서 두고두고 인용할 용도로 바닐라 상태로 두었습니다. 대신 요약본은 3월 30일 주간전략보고 中 엔비디아 코멘트에서 보실 수 있습니다.

​

*코멘트 → 아래에 아모데이가 말했던 연구(훈련 포함)와 추론 컴퓨팅에 대해서 설명드리기 위해 스케일링 법칙에 대해서 다시 정리해봅니다. 스케일링 법칙을 따라서 흘러온 역사는 ⓐ모델의 파라미터를 키우고, ⓑ파라미터의 규모에 맞는 데이터를 제곱수로 필요로 하게 되고(quantity, quality, distribution 모두 요구), ⓒ이를 훈련시키려면 Log 1/1 OOM(=10배) 단위의 컴퓨팅 점프업이 필요합니다. 컴퓨팅의 단위인 FLOPS가 10배 넘게 필요하단 의미입니다. 아주 러프하게 계산하기 위해 간단화하면 대략 10배의 성능향상 중 이를 위해서 HW 성능개선으로 3배의 개선을 얻고, 알고리즘 개선으로 3배의 효율을 얻어서 이들을 결합해야 합니다. 여기도 러프하게 추리는 것입니다만 HW 성능개선에서 얻는 3배의 개선 중 절반은 물리적으로 칩을 더 많이 구매해서 얻는 것이고, 나머지 절반은 칩의 성능이 개선되며 달러당 더 많은 FLOPS를 얻을 수 있게 되서입니다. Ampere → Hopper → Blackwell → Blackwell Ultra → Rubin → Rubin Ultra → Feynman으로 향하면서 시간이 지날수록 칩당 성능이 개선되는 것을 의미합니다. 그러니 알고리즘 개선이 나온다고 해서 HW가 덜 쓰일 거라는 주장들은 사실 스케일링 법칙을 이해했다기보다 암기한 것에 가까운 경우가 많습니다.

이미 수많은 알고리즘 효율 개선을 통해서 2012년 AlexNet으로부터 여기까지 ML이 발전해온 것이기 때문입니다. 수많은 인터뷰를 전해드리는 이유이기도 한데 결국 새로운 노이즈가 등장할 때마다 응용하여 적용할 수 있으려면 이해가 탄탄해야 가능하단 생각입니다. 이에 대해서 좀 더 깊게 보시려면 2024년에 나왔음에도 여전히 추천드리는 <오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다> 자료를 참고하시면 도움이 되실 겁니다.

​

*코멘트 → 다시 돌아와서, 기본적으로 AI Labs는 컴퓨팅 중 50%를 연구(훈련 포함)에 쓰고 50%는 추론에 씁니다. 만약 연구의 비중을 50%에서 70%로 늘린다고 가정해보면 연산량은 1.4배 늘어나지만 모델의 성능 향상 폭은 미미하게 됩니다. HW 성능 개선이 나온 것도 아니고, 알고리즘 개선이 나온 것도 아니기에 돈만 더 많이 쓴다고 해도 돈을 쓴 것에 비해서는 비효율이 생기게 되어 있습니다. 예를 들어 $180B가 아닌 $400B를 쓴다고 가정하면, 이 전제는 추론수요가 변하지 않은 상황에서 $90B의 연구/훈련용 컴퓨팅을 $310B까지 기형적으로 키웠다는 의미인데 하나의 칩 아키텍처에 3.44배나 연구용 컴퓨팅을 키웠지만 모델의 성능 향상 폭은 예를 들어 1.5배~2배 수준에 그친다는 의미입니다. 이정도면 차라리 다른 것에 돈을 더 많이 쓰는 것이 효율이 높습니다. 1달러의 가치가 주는 효용이 점점 감소한다는 의미입니다.

​

*코멘트 → 아모데이는 그로 인해서 AI Labs들이 HW 성능개선 + SW 효율향상의 조합 속에서 가장 효율이 좋게 돈을 쓰는 Sweet spot을 만나게 된다는 것입니다.

그리고 지금은 메모리나 광학 등 타 AI Labs, 타 하이퍼스케일러들에 비해서 내가 물량을 조금이라도 더 많이 취하고 싶다면 uptick으로 구매해야 하기 때문에 이 판 자체의 비효율이 생겨서도 이전처럼 많은 물량을 미리 묶어두기도 어려워지기도 했습니다. 연간 CapEx를 바꾸게 만드는 것은 추론 수요의 차이이겠습니다만, 이것도 당장으로 보면 결국 사전에 컴퓨팅을 예약해둔 것에서 쓰는 것이고, 그렇게 되면 다음 세대의 모델 훈련에 쓸 연구용 컴퓨팅 할당이 줄어들어서 약간의 비효율을 감수해야 하는 구조입니다. 물론 6~12개월 단위로 보자면 더 비싼 값에 네오클라우드 등으로부터 컴퓨팅을 임대게약해서 서비스해야 하는 구조이기 때문에 이것도 마찬가지로 비효율이 있습니다. 이런 요소 하나하나가 일종의 올해 최적화된 CapEx 규모를 만들고 있다는 것입니다.

​

순다르 피차이 Sundar Pichai : 기업이 어느 정도 수준에 이를 정도로 커지면, 결국 실제 웨이퍼 생산 능력이나 그와 유사한 근본적인 요소들로 거슬러 올라가서 생각할 수밖에 없습니다. 근본적인 물리적 한계점들이 존재하는 셈입니다. 저는 그렇게 봅니다. 웨이퍼 투입량(Wafer starts)이야말로 가장 본질적인 제약 조건입니다.

​

오히려 전력이나 에너지 수급 문제는 상대적으로 해결 가능한 영역이라고 생각합니다. 물론 인프라 시설에 대한 인허가를 받고 실제 복잡한 규제 환경을 돌파해 나가는 과정 자체가 또 다른 커다란 제약으로 작용할 수는 있겠죠. 그렇지만 결과적으로 우리가 현실에서 무언가를 실행에 옮기고 추진할 수 있는 물리적인 '속도' 자체가 제한을 받게 되는 것입니다.

​

데이터센터 구축에는 나름 엄청난 진전을 이루고 있다고 생각합니다. 특히 미국에게 있어서 이것은 매우 중요한 일입니다. 중국이 무언가를 구축하는 속도를 보면 경외심을 느끼게 되는데, 우리도 무언가를 훨씬 더 빠르게 만드는 법을 배워야 한다고 진심으로 믿습니다. 물리적인 세계의 건설 영역에서 10배 더 빠르게 일을 처리하려면 무엇이 필요한지 고민하며 사고방식 자체를 완전히 전환해야 할 정도입니다.

​

하지만 이러한 부분이 제약 요소가 될 수 있다는 점이 우려됩니다. 사회적 저항이 커질 수도 있기 때문입니다. 단순히 몇몇 사람이 더 빨리 짓기로 결정한다고 해서 해결될 만큼 간단한 문제가 아닙니다. 데이터센터 건설 중단 조치와 같은 상황도 고려해야 합니다. 결국 웨이퍼 생산이나 인허가 절차를 신속하게 처리하는 능력 등이 관건이라고 할 수 있습니다. 다행히 정부에서도 많은 좋은 노력이 이루어지고 있으며, 사람들도 이러한 과정을 개선해야 한다는 점을 충분히 인지하고 있다고 봅니다.

​

그다음으로는 공급망 내의 핵심 부품들이 중요합니다. 메모리가 대표적인 사례인데, 단기적으로는 이러한 요소들로 인해 제약을 받고 있습니다. 또한 기업을 운영하는 사람들은 AGI의 미래를 얼마나 강력하게 믿느냐와 관계없이, 어느 정도까지 낙관적인 전망을 유지할 수 있는지나 감당 가능한 마진은 어느 정도인지와 같은 오차 범위를 고민하게 됩니다. 우리가 통제할 수 없는 외부적인 요인들로 인해 세상일이 잘못될 수도 있기 때문입니다. 따라서 모든 기업이 그에 맞춰 조정을 진행하고 있습니다.

이 모든 것들이 제약 사항이며, 저는 바로 이러한 부분들에서 연간 CapEx를 무한히 늘리기 어려운 현실적인 한계들이 나타난다고 생각합니다.

​

존 콜리슨 : 병목인 요소들 중 메모리가 가장 심한 걸까요?

​

순다르 피차이 Sundar Pichai : 메모리는 현재 확실히 가장 중요한 요소 중 하나입니다. 주요 메모리 업체들이 생산 역량을 급격하게 향상시킬 수 있는 방법은 없으므로 단기적으로는 이러한 제약이 따르겠지만 이것도 어쨌든 시간이 흐를수록 점차 완화될 것입니다. 하지만 저는 이 모든 상황이 제약이면서도 동시에 한편으로는 이러한 상황이 오히려 많은 혁신을 촉진할 것이라고 생각합니다. 우리는 메모리를 다루는 방법을 30배 더 효율적으로 만들게 될 것이며, 이 모든 과정이 현재 동시에 일어나고 있습니다. 그리고 이는 잘 작동하고 있습니다.

​

엘라드 길 : 이것이 독점 시장을 고착화하게 될까요? 모델 측면에서 살펴보면, 앞으로 모델이 어떻게 발전할지에 대한 많은 견해 중 상당 부분은 자기 개선과 관련이 있습니다. 모델은 점차 스스로의 구성 요소를 더 많이 작성하고 직접 데이터 라벨링을 수행하는 등의 일을 시작할 것입니다. 결국 지금은 누가 컴퓨팅 자원을 선점하느냐를 두고 벌이는 의자 뺏기 게임과 같은 상황입니다.

​

​

순다르 피차이 Sundar Pichai : 그렇게 생각하는 것은 합리적인 프레임워크라고 보지만, 몇 가지 고려해야 할 점들이 있습니다. 저는 방금 Gemma 4를 출시하고 이 자리에 왔는데, 이는 정말 훌륭한 오픈 소스 모델입니다.

중국 모델들도 매우 훌륭하지만, 중국 이외의 지역에서 Gemma 4는 매우 뛰어난 오픈 소스 모델이라고 생각합니다. 최첨단 모델과 Gemma 4 사이의 격차는 시간적 관점에서 보면 크기도 하고 한편으로는 그리 크지 않기도 합니다. Gemma 4는 Gemini 3 아키텍처를 기반으로 하고 있기 때문입니다.

​

USB 스틱 하나에 담길 정도의 가중치를 가진 모델에 대해 이야기하고 있는 셈인데, 이는 정말 놀라운 일입니다. 이것은 스페이스X의 로켓과는 또 다른 공학입니다. 데이터센터를 수개월 동안 가동한 결과물이 결국 하나의 작은 파일이라는 점에 저는 항상 놀라곤 합니다. 말 그대로 워드 문서 같은 파일 하나가 곧 모델이 되는 것인데, 이것이 바로 이 기술이 가진 독특한 속성입니다.

​

말씀하신 내용이 매우 합리적이라고 생각하나, 다만 모든 이들이 이러한 제약을 돌파할 방법을 찾으려 노력하고 있으며, 이러한 한계를 극복하려는 자본주의적 동기 또한 엄청나다고 봅니다.

​

존 콜리슨 : 하지만 말씀하신 것처럼 세상에 존재하는 메모리의 양은 한정되어 있습니다. 따라서 어떤 자본주의적 동기도 2026년이나 2027년의 메모리 공급 문제를 실질적으로 해결하기는 어려울 것입니다. 아마도 그 시기가 기업들 간의 격차가 더욱 뚜렷하게 벌어지는 시대가 될 수도 있습니다.

구글은 어디에 베팅하고 있는가

TPU와 자본 배분의 기준

존 콜리슨 : 구글에서 실제로 자본 배분이 어떻게 이루어지는지 궁금합니다. 제가 말씀드리는 좋은 자본 배분의 개념이란 자본의 기회비용을 내부화하고, 비즈니스가 창출한 현금을 가장 가치 있고 최선의 용도에 투입하는 것을 의미합니다.

MBA에 나오는 전형적인 예를 들어보자면, 보잉 같은 회사는 비즈니스를 통해 창출된 현금을 다음 국방 계약 입찰을 위한 연구개발에 투자하여 특정 수익을 모델링하거나, 아니면 완전히 새로운 상업용 여객기를 개발하는 데 투입하여 또 다른 수익 모델을 만들 수 있을 것입니다. 만약 한쪽은 IRR이 16%이고 다른 쪽은 19%라면 당연히 19%인 쪽을 선호하게 됩니다.

​

하지만 구글의 경우 프로젝트들이 매우 이질적인 프로젝트들이 함께하고 있습니다. 예를 들어 유튜브 팀에 더 많은 예산을 지원하여 추천 알고리즘을 개선함으로써 사용자의 체류 시간과 수익성을 높일 수도 있고, 웨이모 팀에 자금을 더 투입하여 시장 출시나 규모 확장을 앞당길 수도 있습니다. 혹은 5년 뒤에나 결실을 볼 수 있는 새로운 AI 접근 방식에 투자할 수도 있습니다. 이처럼 자본을 가장 가치 있는 곳에 쓰고자 할 때, 본질적으로 성격도 다르고 수익 곡선의 형태도 매우 다른 이니셔티브들을 궁극적으로 어떻게 비교하시는지 궁금합니다.

​

순다르 피차이 Sundar Pichai : 아이러니하게도 현재 TPU 할당 문제로 인해 그 어느 때보다 자본 배분의 중요성을 절실히 느끼고 있습니다. 컴퓨팅 자원 배분 문제가 이러한 고민을 훨씬 더 일차적인 과제로 만들었기 때문입니다. 제가 하는 여러 업무 중에서도 AI가 비서로서 이러한 자본 배분 결정에 통찰을 제공해 줄 날을 정말 기대하고 있습니다. 데이터를 모두 연결하고 원활하게 흐르게 할 수 있다면 모델은 이미 충분한 역량을 갖추고 있다고 생각합니다.

관건은 갇혀 있는 데이터를 확보하여 활용 가능한 상태로 만드는 것이며 그것이 실질적인 도움이 될 것입니다.

​

*코멘트 → 이번 주 주간전략보고에서 전해드린 것처럼 구글도 TPU를 더 많이 찍고 싶어합니다. 그러나 CoWoS, HBM 할당량이 부족한 상태이기 때문에 자본이 있다고 해서 컴퓨팅을 구매할 수 있는 게 아니니 TPU를 할당하는 것이 곧 모든 것을 할당하는 것과 같아졌다는 의미입니다.

​

역사적으로 구글이 가진 강점 중 하나는 기술 채택 사이클상 매우 이른 시기에 중요한 결정을 내린다는 점입니다. 이는 딥 테크 지향성이라는 구글의 뿌리로 돌아가는 것과 같습니다. 장기적인 관점에서 무엇에 투자해야 하는지에 대해서도 우리는 실제로 깊이 고민하고 있습니다. 기술 개발의 초기 단계에서는 투입되는 자금의 규모가 상대적으로 작기 때문에 판단이 더 쉬울 수 있지만, 장기적으로 헌신을 유지하며 기술적으로 깊이 있는 진전이 이루어지고 있는지 확인하는 것이 중요합니다.

​

예를 들어 양자 컴퓨팅의 경우 기저 기술의 진척도를 바탕으로 이를 평가합니다. 오류가 수정된 안정적인 논리적 큐비트 임계값에 언제까지 도달할 것인지 구체적인 목표를 설정하고 팀이 이를 달성할 수 있는지를 확인하는 식입니다. 우리가 견지해 온 방식이자 제가 매우 중요하게 여기는 점은 이처럼 초기 단계의 기술에 대해 깊이 있게 베팅하는 것이며 이것이 큰 도움이 되었습니다.

​

또한 저는 항상 이러한 투자의 장기적인 가치를 평가해야 한다고 믿습니다. 직관적으로 5년이나 10년 뒤의 옵션 가치와 전체 시장 규모를 고려하고 폭발적인 성장을 가정하며 해당 결정이 타당한지 검토합니다.

TPU 투자 역시 그런 관점에서 매우 훌륭한 선택이었으며 꾸준히 투자를 이어왔습니다. 웨이모 역시 아주 좋은 사례인데, 다른 이들이 회의적인 시각을 갖고 투자를 철회할 때 오히려 우리는 2~3년 전부터 투자를 더 늘렸습니다.

​

존 콜리슨 : 웨이모는 제가 가진 의문에 대한 아주 좋은 사례라고 생각합니다. 구글은 실제로 프로젝트를 중단하기도 하고, 시도했던 여러 가지 일들에 대해 특정 부분을 끝까지 지원하지 않기로 하거나 제대로 작동하지 않는 제품을 종료하겠다고 결정하기도 합니다.

​

하지만 웨이모의 경우, 인상적인 데모를 선보인 시점부터 시장에서 상업적 서비스를 시작하기까지 매우 긴 시간이 걸렸음에도 불구하고 여러분은 믿음을 잃지 않았습니다. 당시 여러분은 무엇을 보고 있었던 것인가요? 그것은 질적인 결정이었습니까, 아니면 양적인 결정이었습니까? 다른 프로젝트들은 중단하면서도 웨이모는 유지하기로 결정한 기준은 무엇이었는지 궁금합니다.

​

​

순다르 피차이 Sundar Pichai : 이러한 의사결정은 일종의 정량화된 지표를 기반으로 이뤄졌습니다. Waymo Driver를 구동하는 핵심 기술, 즉 소프트웨어가 자동차를 어떻게 운전하는지 그리고 안전성과 신뢰성 면에서 어떤 진전을 보이고 있는지를 면밀히 관찰합니다. 이는 매우 긴 호흡이 필요한 과업입니다. 얼마나 안전하고 훌륭하게 수행할 수 있는지에 대한 성능 곡선을 추적하고, 우리가 도달하고자 하는 목표를 설정하며 실제 성과가 그 곡선에 어떻게 부합하는지를 평가하는 과정입니다.

기술적인 관점에서 얼마나 잘 나아가고 있는지를 바탕으로 장기 프로젝트의 성공 여부를 판단하는 작업이 어렵긴 하지만 그러한 경영 철학을 유지하고 있습니다.

​

존 콜리슨 : 과거 테크 기업들의 R&D 비용은 대부분 인재들의 인건비였습니다. 채용은 매우 엄격하게 통제되는 프로세스를 통해 관리되었으며, 연구개발 역량을 배분한다는 것은 곧 높은 보수를 받는 인재들을 특정 과제에 투입하는 것을 의미했습니다. 일반적으로 기술 인프라 비용은 인건비에 비해 부차적인 고려 사항에 불과했습니다.

​

하지만 이제는 말씀하신 것처럼 TPU와 같은 자원이 핵심이 되는 시대로 변화하고 있습니다. 이러한 자원을 구체적인 예산 편성 수준에서 어떻게 배분하는지, 구글 내부의 작동 방식이 궁금합니다. 회사 전체 차원의 통합된 TPU 예산이 따로 존재하며, 특정 프로젝트에 자원을 할당할 때 이를 함께 고려하시나요? 과거에는 특정 인원수만큼의 인건비 예산을 배정했다면, 이제는 인원수와 TPU 예산을 동시에 부여하는 식인지 궁금합니다. 이 둘이 하나의 동일한 예산 범주에 속하는지, 그리고 분기별 또는 연간 검토 과정에서 이러한 배분이 실제로 어떻게 이루어지는지도 알고 싶습니다.

​

순다르 피차이 Sundar Pichai : 구글은 전통적인 컴퓨팅 환경에서도 항상 컴퓨팅 예산을 책정해 왔습니다. 머신러닝 분야에서는 현재 TPU와 GPU를 모두 광범위하게 사용하고 있는데, 인력 계획만큼이나 머신러닝 컴퓨팅 계획 역시 매우 신중하게 수립하고 있습니다.

항상 필수적으로 계획해야 했던 부분입니다. 과거에는 머신러닝 컴퓨팅 자원 할당이 비교적 수월했던 시기도 있었지만, 회사 전체적으로 자원의 제약을 받던 시기도 있었습니다.

​

하지만 현재는 그 제약이 매우 심각한 상황이라 이 문제에 훨씬 더 많은 시간을 할애하고 있습니다. 저는 매주 한 시간을 온전히 투자하여 아주 세부적인 수준에서 컴퓨팅 자원 배분을 고민합니다. 각 프로젝트와 팀이 구체적으로 어떤 컴퓨팅 단위를 얼마나 사용하고 있는지 파악하고 있으며, 해당 정보를 바탕으로 상황을 면밀히 평가하고 있습니다. 어떤 면에서 이러한 관리는 현재 시점에서 제가 수행해야 할 가장 중요한 일 중 하나라 생각합니다.

​

엘라드 길 : 구글 클라우드와 내부적으로 사용할 때의 할당 계획에서는 이 문제를 어떻게 다루시는지 궁금합니다. 구글 내부의 목적이 아니라 외부 고객들에게 컴퓨팅 자원을 할당하게 되는데, 현재 시스템이 가진 제약 상황을 고려할 때 이러한 외부와 내부 사이의 차등적인 자원 배분 문제를 어떻게 판단하고 조율하시나해서요.

​

순다르 피차이 Sundar Pichai : 무엇보다 사전에 계획을 세우는 것이 중요합니다. 향후 계획을 수립할 때 클라우드 팀은 미리 계획을 세우고 이를 실행하기 위한 방안을 마련하며, 우리는 그 계획에 따라 자금을 지원합니다. 이는 내부적인 필요를 충족시키기 위한 과정과도 맞닿아 있습니다.

​

고객들과 사전에 장기적인 컴퓨팅 계약을 체결하기도 하는데, 고객에게 약속한 모든 사항은 신성불가침한 것이며 엄연한 계약상의 의무입니다.

결국 많은 문제들이 이러한 치밀한 계획을 통해 해결됩니다. 물론 우리 모두가 자원이 한정된 환경에 놓여 있기에 클라우드 팀 입장에서는 여전히 원하는 만큼의 컴퓨팅 자원이 부족하다고 느낄 수도 있겠지만, 우리는 앞선 계획을 통해 이를 조율하고 해결해 나가고 있습니다. 같은 수준에서 다뤄집니다.

​

존 콜리슨 : 사실 AI가 있기 전에 구글 클라우드의 단점 중 하나는 기능이 너무 방대하여 처음 로그인한 뒤 조직이나 프로젝트를 생성하고 적절한 서비스를 찾아내는 과정이 매우 복잡하고 어렵다는 것이었습니다. 하지만 이제는 그런 번거로운 절차가 더 이상 중요하지 않게 되었습니다. 단순히 인공지능에게 특정 구글 클라우드 기능을 추가해달라고 말하기만 하면 되기 때문입니다. 결과적으로 구글 클라우드는 그 방대한 기능적 범위 덕분에 인공지능 시대에 큰 혜택을 입고 있다고 느껴집니다.

​

순다르 피차이 Sundar Pichai : AI가 일종의 오케스트레이션 레이어 역할을 할 것이라는 기대가 큽니다. 앞서 언급한 질문과 관련하여 기업 내부 상황을 예로 들자면, CEO로서 필요한 데이터를 모두 보유하고 있지 않은 것은 아닙니다. 다만 그 방대한 데이터를 어떻게 한곳으로 모으느냐가 관건인데 과거에는 이를 해결하기 위해 모든 데이터 소스를 연결하는 또 다른 대규모 ERP 프로젝트를 수행해야만 했습니다. 하지만 이제는 AI가 최종 사용자에게 적합한 방식으로 이 모든 데이터를 조율하는 오케스트레이션 레이어 역할을 대신하고 있습니다.

이러한 기술적 발전이 실제로 구현되는 모습을 보는 것은 매우 고무적인 일이라고 생각합니다.

​

존 콜리슨 : 저희 스트라이프에서도 공식적으로 일 년 예산을 세운 뒤 세 번에 걸쳐 공식적인 재전망 보고서를 작성하곤 할 정도니, 구글도 굉장히 많은 재전망을 할 것 같습니다. 재전망이라는 것은 특정 시점의 비즈니스 상태를 파악하는 함수와 같습니다. 사람들의 머릿속에 있는 생각부터 곳곳에 기록된 데이터까지 모두 모아서 각 제품의 성과나 계약 체결 가능성 등을 종합적으로 분석하는 과정입니다.

​

즉, 특정 시점의 사업 현황을 함수에 입력하면 해당 연도의 업데이트된 수치가 결과값으로 나오는 셈입니다. 이제는 AI가 워낙 발전해서 인간의 개입 없이 인공지능이 독자적으로 수행하는 완전한 에이전트 기반의 예측을 상상해 볼 수 있습니다. 구글이 처음으로 이러한 완전 자동화된 재전망을 수행하게 될 시점은 언제쯤이 될 것이라고 예상하시는지 궁금합니다.

​

순다르 피차이 Sundar Pichai : 2027년이 매우 중요한 변곡점이 될 것으로 확신합니다. 이는 단순히 기술적인 변화를 넘어 업무를 수행하는 인력의 구성과 결과물을 산출하는 워크플로우 전반에 걸쳐 일어날 근본적인 변화를 의미합니다. 초기에는 기존의 전통적인 방식과 병행하며 검증하는 과정을 거치겠지만, 결국 인공지능 기반의 프로세스로 완전히 전환되는 결정적인 교차 지점이 올 것입니다. 저는 2027년이 이러한 패러다임의 전환이 매우 깊고 광범위하게 일어나는 해가 될 것이라고 예상합니다.

​

이러한 변화의 물결 속에서 스타트업은 처음부터 AI-Native 팀을 구축할 수 있다는 강력한 이점을 가집니다. 스타트업들은 채용 단계부터 인공지능 역량을 중심에 두고 조직을 구성할 수 있는 반면, 구글과 같은 기존 대기업들은 기존 인력의 재교육과 조직의 문화적 변화, 그리고 대대적인 시스템 변혁이라는 복잡한 과정을 거쳐야만 합니다. 이러한 유연함은 젊은 기업들이 가질 수 있는 명확한 강점이 될 것이며, 저희는 조직 내부의 이러한 체질 개선과 혁신을 더욱 적극적으로 주도해 나가야 할 과제를 안고 있습니다.

​

​

존 콜리슨 : 마지막 질문입니다. 마치 트랜스포머처럼 처음엔 구글의 우선순위가 아니었지만 크게 된 프로젝트들에 대해서 처음에 얘길 나눴었는데, 그렇다면 요즘 구글 내부에서 진행되고 있는 작은 일들 중에서 특별히 기대를 가지고 지켜보시는 것이 있는지 궁금합니다.

​

순다르 피차이 Sundar Pichai : 우리가 우주 데이터 센터를 구축하기로 결정했을 때도 처음에는 아주 작은 팀으로 시작했습니다. 첫 번째 목표 지점에 도달하기까지 말 그대로 소수의 인원과 적은 예산만이 투입되었는데, 아무리 거대한 아이디어라도 이처럼 작게 시작하는 것이 중요하다고 믿습니다. 이것이 바로 작게 시작한 프로젝트의 대표적인 사례입니다.

​

그리고 어제는 사후훈련 과정의 엄청난 도약에 대해 보고를 받았는데, 단 한 명의 담당자가 자신이 일궈낸 기술적 진전에 대해 차근차근 설명하는 자리였습니다.

그 내용을 들으면서 이것이 우리 기술 수준을 상당히 도약시켜 줄 것이라는 확신이 들었습니다. 이것이 바로 현재 우리가 마주하고 있는 이 시기가 가진 끊임없는 힘입니다. 언급한 두 번째 사례에 대해서는 아직 구체적으로 밝힐 수 없지만 언젠가 세상에 공개될 것이라 확신하며, 이런 프로젝트들이야말로 제가 큰 기대를 걸고 있는 작지만 보석 같은 혁신들입니다.

큰 흐름 읽기 (Bird's-eye view)

2026-03-27

앤스로픽 CEO 다리오 아모데이 인터뷰 : "Extremely fast, but not infinitely fast" (​바로가기)

2026-03-05

AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : "거품은 없다. ARR $100B가 온다" (바로가기)

2025-12-17

AI 버블론을 잠재우는 숫자들 : 엔터프라이즈 AI $37B 시장의 현주소 (바로가기)

2025-10-08

오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다 (바로가기)

엔비디아 (NVDA)

2026-03-17

엔비디아 GTC 2026 : 7개의 칩, 5개의 랙 시스템, 그리고 하나의 AI 슈퍼컴퓨터 (바로가기)

2026-02-26

엔비디아 4Q25 실적발표 : 담백한 실적발표, 핵심은 모두 그린라이트 (바로가기)

2026-01-02

엔비디아가 $20B를 주고 데려온 남자 : Groq 창업자 조나단 로스의 통찰 (바로가기)

광학 (Optics)

2026-03-20

OFC 2026 : 광학이 중요해지고 있는 이유들, 태풍의 눈에 있는 두 가지 기업 분석 (바로가기)

2026-03-13

AI 인프라의 새로운 병목 '광학' : 앞으로의 2~3년 가파른 채택곡선 (트랜시버, OCS, CPO) (바로가기)

2026-03-06

비아비 솔루션스(VIAV) 기업분석 : 광학의 시대, 더 많은 테스트가 필요해 (바로가기)

메모리 (Memory)

2026-03-19

마이크론 1Q26 실적발표 : 흔들릴 이유가 없는 어닝서프라이즈, 구조적 성장주로 거듭나기 (바로가기)

2025-01-21

추론의 시대, 핵심이 된 메모리 : 메모리 쇼티지를 떠받치고 있는 힘 (바로가기)

2026-01-07

엔비디아 CES 2026 : Vera Rubin의 시대, ICMS가 불러올 메모리 지각변동 (바로가기)

네오클라우드 (Neocloud)

2026-02-22

네오클라우드 뜯어보기 #2 : 새로운 시대의 AI 계급도, 전력을 돈으로 바꾼 Powered Shell (바로가기)

2026-02-10

네오클라우드 뜯어보기 : GPU 임대의 경제학, 네오클라우드 BIG 4 비교분석 (바로가기)