[원문 유형] 네이버 프리미엄 콘텐츠
[채널] 올바른 미국주식 by SAPIENS
[게시일] 2026.10.08
[원문 URL] https://contents.premium.naver.com/sapiens/sapiensasset/contents/261008200314913ys
[제목] 앤스로픽 핵심 연구진 인터뷰 : 코딩 다음은 생물학, AI 발전의 다음 병목은 무엇인가
[수집 기준] 구매회원 본인이 QR 로그인으로 승인한 구독 열람권을 사용해 개인 문서 보관용으로 확보했다. 목록 메타데이터가 아니라 아래 실제 본문만 분석 근거로 사용한다.

[구독 원문 본문]
​

안녕하세요 올바른입니다.

​

이번 인터뷰는 앤스로픽의 강화학습 핵심 인력인 숄토 더글라스와 니콜라스 마웰 인터뷰입니다. 내부자 관점에서 쭉 생각을 들어볼 수 있었습니다.

​

앤스로픽 내부와 외부에서 보는 AI 규제에 대한 생각, Distillation에 대한 솔직한 생각과 신약 개발 비유, 앤스로픽 연구원들이 생각하는 개척과 효율 관점도 담겨 있습니다.

​

생물학 무기와 사이버보안은 이중 용도를 다뤄야 하는 작업이기에 어려운 부분들, 숄토가 보는 AI 발전의 Bull Case에서 가장 중요한 기술은 무엇인지가 담긴 인터뷰입니다.

큰 흐름 읽기 (Bird's-eye view)


2026-09-16

	

1873년, 미국의 미래를 맞힌 투자자들은 왜 파산했을까 (바로가기)


2026-06-12

	

AI 사이클의 모든 것, 게빈 베이커 인터뷰 : 버블의 역사는 반복되지 않지만, 운율은 반복된다 (바로가기)


2026-03-27

	

앤스로픽 CEO 다리오 아모데이 인터뷰 : "Extremely fast, but not infinitely fast" (바로가기)


2025-10-08

	

오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다 (바로가기)


AI 심화편 of 심화편


2026-07-09

	

구글 TPU v8 네트워킹의 모든 것 : 같은 칩을 사도 같은 성능이 나오지 않는 시대 (바로가기)


2026-06-19

	

추론의 시대, 핵심이 된 메모리 #2 : Agentic AI의 시대, NAND가 중요한 이유 'DualPath' (바로가기)


2026-06-05

	

AI 가속기 심화편 : GPU vs TPU, 무엇이 칩을 다르게 만드나 (feat. CPU, ASIC, FPGA) (바로가기)


2026-05-27

	

LLM 추론 토큰 가격의 비밀 : MoE의 시대, 엔비디아 NVL72가 중요한 이유 (바로가기)


유니티 (U)


2026-08-11

	

유니티 2Q26 실적발표 : 앱러빈이 이미 걸어간 길, 유니티는 이제 그 초입에 서 있다 (바로가기)


포티넷 (FTNT)


2026-09-03

	

포티넷 기업분석 : Agentic AI가 폭발시킨 트래픽, 방화벽의 두 번째 전성기 (바로가기)


광학 (Optics)


2026-09-09

	

'빛💡'의 시대 #2 : 구리도 광모듈도 CPO도 다 커진다, AI 인터커넥트의 폭발 (바로가기)


2026-08-26

	

셈텍 2Q26 실적발표 : 생각보다 더 빨리 온 1.6T 변곡점, 한 분기 사이 생산능력 완판 (바로가기)


2026-08-12

	

루멘텀 2Q26 실적발표 : ALL BEAT, 더욱 강해진 루멘텀의 모멘텀 (바로가기)


2026-08-06

	

비아비 솔루션스 2Q26 실적발표 : CPO 정상 진행 중, 광학은 Lab → Production으로 (바로가기)


2026-07-03

	

셈텍(SMTC) 기업분석 : 미디어텍 TPU와 함께 성장할 기업, 'DSP를 지우는 자' (바로가기)


2026-04-17

	

'빛💡'의 시대 : 광학 밸류체인 한 눈에 보기 (바로가기)


메모리 (Memory)


2026-10-01

	

마이크론 3Q26 실적발표 : 메모리 Phase 2, 시장은 마진의 높이가 아니라 길이를 묻는다 (바로가기)


2026-06-19

	

추론의 시대, 핵심이 된 메모리 #2 : Agentic AI의 시대, NAND가 중요한 이유 'DualPath' (바로가기)


2026-01-21

	

추론의 시대, 핵심이 된 메모리 : 메모리 쇼티지를 떠받치고 있는 힘 (바로가기)


2026-01-07

	

엔비디아 CES 2026 : Vera Rubin의 시대, ICMS가 불러올 메모리 지각변동 (바로가기)

투자자문 서비스에 따른 투자 시 원금 손실이 발생할 수 있으며, 투자 손익에 대한 책임은 전적으로 고객에게 귀속됩니다. 또한 과거의 투자수익이 미래의 수익률을 보장하지 않습니다.

​

신규 구독 전에, 아래 투자자문계약 권유문서의 계약 관련 제반 사항을 반드시 읽으시고 충분히 검토하시기 바랍니다.

​

*투자자문계약 권유문서 : https://naver.me/5ZST47Qf

목차

코딩 다음은 생물학 : 앤스로픽 연구진이 기대하는 다음 혁명, 강화학습이 여는 AGI의 시대

AI, 개발과 규제의 딜레마 : 앤스로픽 내부와 외부에서 바라보는 규제에 대한 시각

'Distillation' 개척과 효율 : 더 높은 지능이 새로운 시장을 만든다

CY26 $1T → CY27 $2T → CY28 $4T? : 대략 생각하는 CapEx 상향의 궤적과 AI가 만들어낼 풍요

필즈상은 받아도, 퓰리처는 어렵다 : 미래는 학습 데이터 생산 속도가 병목일 수 있다

숄토 더글라스 Sholto Douglas

2026년 10월 2일, 20대 후반 앤스로픽의 Scaling RL 핵심인물

코딩 다음은 생물학

앤스로픽 연구진이 기대하는 다음 혁명, 강화학습이 여는 AGI의 시대

 

조 론스데일 Joe Lonsdale : American Optimist에 오신 것을 환영합니다. 오늘은 앤스로픽에서 중요한 역할을 맡고 있는 두 분을 모셨습니다. 닉은 핵심 기술진으로서 RL Science(강화학습 연구)를 이끌고 있습니다. 숄토 더글라스 역시 강화학습 분야의 기술 리드를 맡고 계시죠?

​

숄토 더글라스 Sholto Douglas : 네, 맞습니다.

​

조 론스데일 : 두 분은 앤스로픽에서 일하신 지 얼마나 됐습니까?

​

니콜라스 마웰 Nicholas Marwell : 저는 3년이 조금 넘었습니다.

​

조 론스데일 : 앤스로픽 회사 자체는 생긴 지 얼마나 됐죠?

​

니콜라스 마웰 : 5년 정도 됐습니다.

​

조 론스데일 : 먼저 두 분의 배경부터 이야기해보겠습니다. 어디에서 자라셨는지부터 들어볼까요? 숄토부터 말씀해주시겠습니까?

​

숄토 더글라스 : 저는 시드니에서 자랐습니다. 2020년쯤 여러 블로그 글과 논문을 읽으면서, 지금처럼 스케일링을 계속해나가면 2020년대 안에 AGI에 도달할 수도 있겠다는 확신이 생겼습니다. 전체적인 발전 방향이 분명히 그쪽을 향하고 있다고 봤습니다. 그래서 딥마인드, 앤스로픽, 오픈AI 같은 곳에서 요구하는 수준의 연구를 저도 해낼 수 있다는 걸 증명하고 싶었습니다. 낮에는 제 일을 하면서도 저녁과 주말에는 정말 많은 시간을 들여 공부하고 연구했습니다.

​

조 론스데일 : 컴퓨터과학을 전공하셨습니까?

​

숄토 더글라스 : 학부에서는 로봇공학을 전공했고 2019년에 졸업했습니다. 그 뒤로는 사실상 독학으로 연구를 이어갔습니다. 이후 딥마인드에서 2년 정도 일했고, 지난 18개월 동안은 앤스로픽에서 일하고 있습니다.

​

조 론스데일 : 닉은 어디 출신이십니까?

​

니콜라스 마웰 : 저는 샌프란시스코에서 태어나고 자랐습니다. 요즘 AI 업계에서 일하는 사람들 중에서는 오히려 드문 경우인 것 같습니다. 아버지는 커리어 전반부에는 아주 전통적인 사업을 하셨고, 후반부에는 완전히 다른 방향으로 진로를 바꾸셨습니다. 제가 자라던 시기에는 사회에 어떻게 기여할 수 있을지를 많이 고민하셨고, 특히 기술을 활용해 그런 일을 하려고 하셨습니다.

​

저도 비슷한 고민을 했습니다. 제 역량을 키우면서 동시에 사회에 긍정적인 영향을 줄 수 있는 일을 하고 싶었습니다. 유능한 사업가라고 해야 할지, 자본가라고 해야 할지 표현은 무엇이든 상관없습니다. 중요한 건 사업을 잘할 수 있는 능력을 갖추고, 그 능력을 좋은 방향으로 쓰고 싶었다는 겁니다.

​

그런 점에서 앤스로픽은 여러 조건이 정말 절묘하게 맞아떨어진 기회였습니다. 당시 저는 AI 안전에 대한 우려가 점점 커지고 있었고, 지금과는 성격이 많이 달랐던 Thrive Capital에서 레지던트로 일하고 있었습니다. 그러다 예상하지 못했던 기회가 찾아왔고, 그때 바로 '이게 내가 해야 할 일이구나'라는 생각이 들었습니다.

​

조 론스데일 : 대단하네요. 두 분이 합류한 이후 앤스로픽은 세계에서 가장 큰 AI 기업 가운데 하나로 성장했습니다. 공식적으로 모든 수치를 공개하고 있는 것은 아니지만, 여러 정보가 밖으로 나오고 있습니다. 시청자분들께 조금 맥락을 드리자면, 지금이 2026년 8월인데 현재 알려진 내용으로는…

​

니콜라스 마웰 : 저는 표정을 전혀 바꾸지 않겠습니다. 아주 무표정하게 있겠습니다. *옅은 미소*

​

조 론스데일 : 두 분 다 정말 무표정하시네요. 아무 반응도 하지 않으시는군요. *웃음* 알려진 이야기로는 ARR이 이미 $80B를 넘어섰고, 굉장히 빠르게 성장하면서 오픈AI를 포함한 경쟁사들을 앞서고 있다고 합니다.

​

두 분은 지금 AI의 프론티어에서 직접 일하고 계십니다. 현재 내부에서 하고 있는 일 가운데 공개할 수 있는 범위에서 가장 흥미롭다고 생각하는 것은 무엇입니까? 그리고 실제로 그 프론티어에서 일한다는 건 어떤 경험인가요?

​

숄토 더글라스 : 제가 가장 구체적으로 말씀드릴 수 있는 건 프로그래밍 경험이 얼마나 달라졌는지입니다. 저희가 모델의 발전을 가장 직접적으로 체감하고 있는 영역이기 때문입니다.

​

18개월 전만 해도 거의 모든 코드를 직접 한 줄씩 작성했습니다. 앤스로픽에 합류하고 몇 달이 지나면서부터는 모델을 옆에서 계속 이끌어주는 방식으로 일하기 시작했습니다. 몇 분마다 개입해서 다음 함수를 작성해달라고 하거나, 어떤 작업을 해야 하는지 설명해주는 식이었습니다. 모델이 실수하거나 엉뚱한 방향으로 가는 경우가 많았기 때문에 여전히 몇 분 간격으로 확인해야 했습니다.

​

그런데 지금은 모델에게 하루나 이틀 정도 걸릴 일을 통째로 맡겨놓을 수 있습니다. 그러면 혼자서 실제로 작업을 진척시킵니다. 이제는 정말 주니어 팀원과 함께 일하는 느낌에 가깝습니다. 불과 18개월 사이에, 사람이 몇 분마다 개입해야 했던 도구가 상당한 작업을 혼자 맡길 수 있는 주니어 팀원 같은 존재로 바뀐 겁니다.

​

조 론스데일 : 그러면 지금 이렇게 저희가 대화하고 있는 동안에도 AI가 주니어 팀원처럼 뒤에서 계속 일을 하고 있겠네요?

​

숄토 더글라스 : 네, 그렇습니다. 지금도 여러 모델이 동시에 작업하고 있습니다. 강화학습과 관련된 여러 연구를 계속 진행하고 있습니다.

​

니콜라스 마웰 : 저는 조금 다른 관점에서 말씀드리겠습니다. 지금까지 모델 개발의 상당 부분은 인간이 이미 잘할 수 있는 일을 모델도 해낼 수 있도록 만드는 데 집중돼 있었습니다. 다시 말해, 인간이 지적으로 이미 할 수 있는 일을 모델이 훨씬 더 빠르고 효율적으로 수행하도록 능력을 키워온 것입니다. 예를 들어 인간 개발자 팀이 같은 시간 안에 만들 수 있는 소프트웨어를 모델이 대신 만드는 일이 그렇습니다.

​

그런데 이제는 모델을 이용해서 인간의 지능과 성취가 지금까지 도달했던 경계를 넘어서는 방법을 찾기 시작했습니다. 최근 수학 분야에서 나온 몇몇 성과가 그 좋은 예라고 생각합니다.

​

조 론스데일 : 최근 수학 분야에서 나온 성과 같은 것을 말씀하시는 거군요?

​

니콜라스 마웰 : 네, 그렇습니다. 사람들이 오랫동안 관심을 갖고 연구해왔지만 풀지 못했던 문제들에 대해, 모델이 새로운 수학적 증명을 만들어내는 사례가 점점 나오고 있습니다.

​

조 론스데일 : 그럼 이건 완전히 새로운 접근법을 발견해낸 건가요?

​

니콜라스 마웰 : 적어도 아직까지는 모델이 인간이라면 도저히 생각해낼 수 없었을 완전히 새로운 개념을 만들어내는 단계는 아니라고 생각합니다. 하지만 사실 인간의 지적 진보도 그런 식으로 이루어지는 경우는 매우 드뭅니다. 물론 예외는 있습니다. 다만 우리가 지금까지 이뤄온 성취의 대부분은 기존의 지식과 앞선 사람들의 아이디어를 연결하고, 그 위에 새로운 것을 쌓아가는 과정이었습니다.

​

서로 다른 사람들이 생각해낸 두 가지 아이디어를 결합해서 새로운 무언가를 발견하는 것은 인간이 해온 지적 활동의 핵심입니다. 지금 모델에서 중요하게 달라지고 있는 부분도 바로 이것입니다. 이미 존재하는 인간의 아이디어들을 서로 결합해서, 이전에는 없었던 새로운 아이디어를 만들어내기 시작하고 있습니다. 단순히 Web 앱을 하나 더 만드는 것은 인류의 새로운 지적 성취라고 부르기는 어렵습니다.

​

조 론스데일 : 실리콘밸리에서도 기업이 이렇게 빠르게 성장하는 모습은 거의 본 적이 없습니다. 10배 성장하고, 다시 10배 성장하고, 또 10배 성장합니다. 정말 엄청난 속도입니다. 60~90일마다 완전히 새로운 회사가 되는 것처럼 느껴질 정도입니다. 그만큼 많은 일이 한꺼번에 벌어지고 있습니다.

​

요즘 AI 업계에 있는 많은 사람들이 비슷한 경험을 하고 있는 것 같습니다. 두 분은 그중에서도 가장 빠르게 성장하는 회사의 중심에 계십니다. 예전의 생활과 비교하면 지금은 어떤가요? 그리고 앞으로는 어디로 향한다고 보십니까? 이런 속도가 계속 더 빨라질까요? 지금 벌어지고 있는 상황을 두 분은 어떻게 이해하고 계신가요?

​

니콜라스 마웰 : 앤스로픽에서 정말 좋았던 점 중 하나는 회사가 빠르게 성장하면서 우리가 세운 목표의 크기도 함께 커졌다는 것입니다. 18개월 전만 해도 저희는 코딩에 엄청나게 집중해야 한다고 생각했습니다. 우선 한 분야에서만큼은 세계 최고 수준의 모델을 만들 수 있다는 것을 증명해야 했기 때문입니다.

​

하지만 지금 회사가 바라보는 목표는 단순히 코딩을 잘하는 좋은 모델을 만드는 것보다 훨씬 큽니다. 회사와 매출이 성장하면서 이제는 그런 더 큰 목표를 실제로 추진하는 데 필요한 사람과 자원, 인프라를 갖춰나갈 수 있게 됐습니다.

​

조 론스데일 : 그 목표를 조금 더 구체적으로 이야기해보죠. 이번 주 초에도 AI 업계에서 고위직으로 일하는 친구를 만났는데, 먼저 코딩과 수학에서 최고가 되어야 한다고 하더군요. 그다음에는 새로운 분야들이 계속 등장할 것이고, 거기에서도 최고가 되어야 한다는 이야기였습니다. 결국 인간이 가진 여러 능력도 하나씩 대상이 되겠죠. 

​

그렇다면 앞으로는 모델에 새로운 능력을 계속 추가해나가는 방향이라고 보면 될까요? 앤스로픽이 궁극적으로 바라보는 목표는 무엇입니까?

​

숄토 더글라스 : 저희는 앞으로 몇 년 안에 실제로 AGI에 도달할 수 있다고 생각합니다. 앞으로의 목표는 그 가능성을 전제로 하고 있습니다.

​

조 론스데일 : 그게 무슨 뜻인지 시청자분들께 설명해주시겠습니까?

​

숄토 더글라스 : 앞으로 몇 년 안에 모든 인간과 동등하거나 그보다 뛰어난 능력을 가진 모델이 등장할 가능성이 매우 높다고 생각합니다. 우선 인간이 컴퓨터를 이용해 할 수 있는 거의 모든 일을 모델이 할 수 있게 될 것입니다. 그리고 로봇공학이 충분히 발전한다면, 결국 인간이 물리적 세계에서 할 수 있는 일까지도 대부분 수행할 수 있게 되겠죠.

​

조 론스데일 : 그러면 팟캐스트도 저보다 훨씬 잘하겠네요. 그냥 모델한테 맡기면 되겠습니다. 여기에 로봇 하나 앉혀놓으면 되겠군요.

​

숄토 더글라스 : 팟캐스트는 모델에게 맡겨두고 저희는 포도밭에 가는 겁니다. 그게 훨씬 재미있겠네요. *웃음* 저희는 여기에 엄청난 긍정적 가능성이 있다고 생각합니다. 지금 전 세계에서 이루어지는 지적 노동과 육체노동의 규모를 몇 배로 늘릴 수 있습니다. 원래라면 수백 년에 걸쳐 이루어질 발전을 훨씬 짧은 시간 안에 이뤄낼 수도 있습니다. 하지만 그만큼 엄청난 위험도 함께 따라옵니다. 그래서 앤스로픽의 궁극적인 목표는 세계가 그 위험을 잘 헤쳐나갈 수 있도록 돕고, 그 이후에 찾아올 막대한 혜택을 실제로 누릴 수 있게 만드는 것입니다.

​

조 론스데일 : 조금 시야를 넓혀서, AI라는 거대한 흐름 속에서 지금 우리가 어디쯤 와 있는지 이야기해보겠습니다. 숄토는 2020년쯤 AGI가 가능하다고 생각하기 시작했다고 하셨습니다. 오픈AI가 GPT-3를 공개했던 시기와도 비슷하네요. 

​

올해 초 다리오와 이야기했을 때는 일부 지표를 기준으로 모델의 능력이 몇 달마다 두 배씩 좋아지고 있다고 했습니다. 그렇다면 이런 발전 속도를 수치로는 어떻게 이해하면 될까요? 조금 전에는 이제 AI를 주니어 직원처럼 활용할 수 있다고 말씀하셨는데, 앞으로 몇 년 동안 모델이 얼마나 더 좋아질지를 가늠할 수 있는 다른 지표나 방법도 있을까요?

​

숄토 더글라스 : 여러 가지 평가가 있습니다. 쉽게 말하면 모델이 실제로 어느 정도 능력을 갖고 있는지 시험해보는 일종의 시험이라고 보면 됩니다. 이런 평가들을 보면 발전 속도가 굉장히 빠릅니다.

​

수학 이야기만 너무 많이 하고 싶지는 않지만, 어떤 면에서는 수학이 가장 좋은 사례입니다. 여러 분야의 교수들이 만든 아주 어려운 문제들로 평가하는 FrontierMath라는 벤치마크가 있는데, 여기서 처음에는 정답률이 사실상 0%였습니다. 그런데 지난 1년 사이에 40%, 50%, 이제는 60%를 넘는 수준까지 올라왔습니다.

​

조 론스데일 : 그러려면 결과가 맞았는지 틀렸는지를 확인할 수 있어야 하는 거죠? 결국 반복해서 시도하고 성과를 측정할 수 있는 과제가 필요하다는 이야기 같습니다. 예를 들어 모델에게 Instagram에서 여성과 대화하게 한 다음, 상대가 실제로 데이트를 하고 싶어 하게 만드는 데 얼마나 자주 성공하는지를 측정하는 식의 평가도 가능합니까?

​

숄토 더글라스 : 그렇죠. 그러니까…

​

조 론스데일 : 저는 결혼했으니까 제 얘기는 아닙니다.

​

숄토 더글라스 : 저희가 그런 과제로 학습시키지는 않았습니다.

​

조 론스데일 : 하나의 예라는 거죠. 그와 비슷한 다른 과제들도 상당히 유용할 것 같습니다.

​

숄토 더글라스 : 모델의 능력을 발전시키는 방식은 크게 두 가지입니다. 하나는 인터넷에 있는 방대한 양의 텍스트를 학습하는 것이고, 다른 하나는 저희 둘 다 연구하고 있는 강화학습입니다. 강화학습에서는 모델에게 어떤 문제를 풀게 한 다음, 실제로 정답을 맞혔는지 확인합니다. 지금 말씀하신 것도 바로 이런 방식에 해당합니다.

​

조 론스데일 : 그런데 수학이나 컴퓨터과학에서는 답이 맞았는지 확인하기가 비교적 쉽지만, 연애나 시처럼 훨씬 주관적인 영역에서는 평가하기가 상당히 어렵지 않습니까?

​

숄토 더글라스 : 그래서 수학과 컴퓨터과학에서 모델의 능력이 다른 분야보다 훨씬 빠르게 발전해온 것입니다. 다만 저희는 다른 종류의 문제들도 결국 이런 강화학습의 틀 안에 넣을 수 있다고 생각합니다. 생각보다 그렇게 어려운 문제는 아닙니다.

​

니콜라스 마웰 : 수학과 컴퓨터과학이 먼저 발전한 데에는 분명 기술적인 이유가 있습니다. 하지만 사람과 조직의 특성으로 설명할 수 있는 부분도 꽤 크다고 생각합니다.

​

어떤 사람들을 모아놓고 이 문제를 풀게 했는지를 생각해보면 됩니다. 대부분 수학이나 컴퓨터과학을 전공한 사람들을 모아놓고 지능을 만들라고 했습니다. 그러면 자연스럽게 자신들이 가장 잘 이해하고 가장 관심 있는 분야의 지능부터 만들게 됩니다. 실제로 그쪽이 훨씬 다루기 쉽기도 합니다.

​

좋은 모델을 학습시키다 보면 모델이 실제로 어떤 답을 내놓고 어떤 방식으로 문제를 풀고 있는지 직접 읽어보는 데 놀라울 정도로 많은 시간을 씁니다. 그래야 모델의 능력이 어디까지 올라왔는지, 어떤 부분에 더 집중해야 하는지, 무엇을 개선해야 하는지를 판단할 수 있습니다. 그런데 자신이 전문가이고, 지금 모델 안에서 무슨 일이 벌어지고 있는지 이해할 수 있는 분야라면 이런 작업이 훨씬 쉬워집니다.

​

*코멘트 → 기술적으로는 강화학습의 성과가 보상 신호(Reward Signal)의 품질에 크게 좌우된다는 이야기입니다. 수학은 정답 검증, 코딩은 테스트 실행을 통해 모델의 시행착오를 자동으로 평가할 수 있지만, 현실 세계의 주관적인 과제에서는 보상 자체를 설계하기가 어렵습니다

​

조 론스데일 : 모델을 볼 때 일종의 사람처럼 생각하기도 합니까?

​

니콜라스 마웰 : 저는 개인적으로는 그렇게 생각하지 않는 편입니다. 물론 모델을 어느 정도 사람처럼 받아들이는 사람들도 있을 것이고, 앤스로픽 안에도 그런 사람이 분명 있을 겁니다.

​

조 론스데일 : 우리 뇌는 어느 정도 그렇게 작동하도록 만들어져 있지 않습니까. 눈앞에 있는 상대를 하나의 사람으로 인식하고, 그 사람이 어떤 감정을 느낄지 짐작하면서 대화를 이어가도록 되어 있습니다. 진화 과정에서 다른 지적 존재를 하나의 의도를 가진 존재로 받아들이도록 하는 여러 기능이 뇌에 생긴 셈입니다. 그렇다면 매일 이런 모델과 함께 일하다 보면, 어느 순간 모델을 사람처럼 생각하게 되는 것을 피하기가 꽤 어려울 것 같습니다.

​

숄토 더글라스 : 이걸 단순한 도구로 볼 것인지, 아니면 하나의 주체로 볼 것인지는 꽤 중요한 논쟁 중 하나입니다. 저는 개인적으로는 '주체'라는 관점이 더 유용하다고 생각합니다. 

​

도구라면 기본적으로 사람이 계속 직접 조작해야 합니다. 그런데 이런 모델은 조금 다릅니다. 매우 지능적인 무언가를 세상에 풀어놓고, 사용자를 대신해서 스스로 행동하게 만드는 것에 가깝습니다. 그런 의미에서는 모델을 단순한 도구라기보다 하나의 주체, 혹은 에이전트로 보는 편이 훨씬 유용할 때가 많습니다.

​

조 론스데일 : 지금도 충분히 AI에게 맡길 수 있는데 아직 본격적으로 활용하지 않고 있는 분야가 있습니까? 두 분이 앞으로 특히 기대하고 있거나 직접 연구하고 있는 영역 중에서, AI가 훨씬 더 많이 쓰이게 될 분야는 어떤 것들이 있을까요?

​

숄토 더글라스 : 가장 큰 기회가 있는 분야는 생물학이라고 생각합니다.

​

니콜라스 마웰 : 다만 질문이 두 가지로 나뉠 수 있을 것 같습니다. 모델이 이미 잘할 수 있는데도 아직 충분히 활용되지 않고 있는 능력이 무엇이냐는 질문과, 앞으로 모델이 발전해갈 방향 가운데 무엇을 가장 기대하느냐는 질문입니다.

​

후자라면 저는 앞으로 6~24개월 동안 생물학을 가장 기대하고 있습니다. 이유는 더 자세히 이야기할 수 있겠지만, 소프트웨어 엔지니어링에서 그랬던 것처럼 AI가 실제로 큰 영향을 미치기 시작할 다음 분야라고 생각합니다. 단순히 생물학 분야에서 AI가 널리 쓰이게 된다는 의미는 아닙니다. 그로 인해 만들어질 긍정적인 사회적 효과가 매우 넓게 퍼질 것이고, 그 영향 자체도 상당히 클 것이라고 봅니다.

​

조 론스데일 : 질병을 치료하고 사람들을 더 건강하게 만들고, 궁극적으로는 수명을 늘리는 일도 포함되겠군요.

​

특히 노화와 관련된 후성유전학을 보면 정말 흥미로운 현상들이 많습니다. 약 20년 전부터 노벨상으로 이어진 여러 연구를 통해 이제 막 이해하기 시작한 것들이죠. 지금은 Bay Area에서도 제 지인들이 이런 분야의 회사를 많이 운영하고 있습니다. 이런 생물학적 현상을 어떻게 유도할 수 있는지, 신체의 일부를 어떻게 다시 젊게 만들 수 있는지를 알아내는 데 수십억 달러가 투자되고 있고요.

​

AI가 이런 발전을 가속하는 데 결정적인 역할을 하게 될 것이라고 보십니까?

​

니콜라스 마웰 : AI는 생명과학 분야에서 우리 세대가 보게 될 가장 중요한 기술이 될 것이라고 생각합니다. 어쩌면 역사상 가장 중요한 기술일 수도 있습니다. 저는 그 점을 상당히 확신합니다. 오히려 제가 더 걱정하는 것은 AI 자체가 충분히 유용한 지적 도구가 될 수 있느냐가 아닙니다. 그 능력을 실제로 활용할 수 있을 만큼 물리적 인프라와 실험실 인프라가 충분히 갖춰져 있느냐는 점입니다.

​

조 론스데일 : 그렇다면 지금부터라도 누군가는 AI가 활용할 수 있는 실험실 공간과 인프라를 훨씬 더 많이 만들어야 한다는 뜻입니까?

​

니콜라스 마웰 : 그렇다고 생각합니다. 여기에는 몇 가지 중요한 문제가 있습니다. 하나는 정말 단순하게, 실험을 수행할 수 있는 공간이 충분하냐는 문제입니다. 그런데 미국의 실험실 인프라를 여러 기준으로 살펴보면, 일부 영역에서는 중국 같은 국가에 분명히 뒤처지고 있습니다.

​

숄토 더글라스 : 그 부분이 AI를 활용한 생물학 연구의 발전 속도를 제한하는 병목이 될 가능성이 큽니다.

​

*코멘트 → <가설 생성 → 실험 → 결과 측정 → 다음 가설 생성>을 얼마나 빠르게 반복할 수 있느냐입니다. 코딩에는 컴파일러와 테스트가, 수학에는 정답 검증기가 있었다면 생물학에서는 Wet Lab이 사실상 Reward Function 역할을 합니다. 모델의 가설 생성 속도는 급격히 빨라질 수 있는데 실험 처리량은 물리적으로 제한되기 때문에, AI Biology의 스케일링 병목이 Compute에서 Lab Throughput으로 이동할 수 있다는 주장으로 볼 수 있습니다.

​

*코멘트 → 9월 28일 주간전략보고에서 앤스로픽의 바이오 진출에 대해서 정리드린 바 있습니다.

​

해당 내용을 가져와보면:

​

Claude, 바이오 연구에서 '무엇을 연구할지 찾는 단계'까지 올라오다

앤스로픽 CEO 다리오 아모데이가 'AI가 이제 바이오 분야에서 보조도구를 넘어 스스로 연구 주제를 탐색하고 발견을 하는 단계에 진입하기 시작했다'고 말했습니다:

​

이번에 앤스로픽이 발견한 것은 ART라고 이름 붙인 새로운 효소 시스템입니다. 아직 이 시스템이 정확히 무엇을 하는지는 모릅니다. 실제로 DNA를 자르거나 붙이는 새로운 gene-editing system인지도 증명되지 않았습니다. 따라서 지금 단계에서 이를 '새로운 CRISPR'라고 부르는 것은 지나치지만 꽤나 흥미로운 시스템입니다.

​

그럼에도 다리오가 흥분하는 이유는 무엇을 발견했느냐보다 '누가, 어떻게 발견했느냐'에 있습니다.

​

앤스로픽 연구진은 Claude에게 대략적으로 "RT(reverse transcriptase) 계열 가운데 흥미로운 새로운 시스템을 찾아보라"는 방향을 줬습니다. 이후 Claude가 문헌과 DNA 데이터를 탐색하고, RT family를 분류하고, 이상한 후보를 찾고, 후보가 왜 흥미로운지를 분석했습니다. 사람이 구체적으로 ART를 찾아보라고 지시한 것이 아닙니다.

​

기존의 AI for Science는 인간이 문제를 정의했습니다. 그런데 이번에는 Claude가 연구를 정하는 식으로 훨씬 퍼널의 앞단으로 올라왔습니다. 실제로 약 950개의 Claude 에이전트가 21시간 동안 2.1억 토큰을 사용해 20만 개 이상의 RT를 조사했고, 약 3,500개의 새로운 후보 시스템을 찾은 뒤 20개 유력 후보까지 압축했습니다. 이 과정에서 Claude가 ART 주변 DNA의 반복 패턴을 직접 발견했습니다. 인간 전문가라면 이러한 genome-mining 작업에 수주에서 수개월이 걸릴 수 있다고 설명했습니다.

​

모든 AI 발전 패턴은 새로운 도메인에 진입 → 처음에는 형편없음 → 몇 년 안에 전문가 수준 → 그 이후에는 인간 최상위 전문가보다 뛰어난 수준이었습니다. 이를 감안해본다면 이제 막 바이오라는 새로운 도메인에 정착한 단계임에도 불구하고 새로운 연구를 설계하는 레벨에 도달한 것이 꽤나 유의미한 단계였습니다.

​

CRO에 대한 아이디어

이걸 갖고 생각해보다보니, 이전에는 100개의 아이디어 → 10개의 후보 → 1개의 임상 진입이었다면, 앞으로는 AI 덕분에 10,000개의 아이디어 → 1,000개의 후보 → 100개의 임상 진입이 가능해질 수 있습니다. 파이프라인에 쓰이는 유력 후보물질이 많아진다는 흐름을 예상할 수 있습니다.

​

이와 관련된 수혜기업으로는 CRO 전문기업인 IQVIA(IQV), MedPace(MEDP), ICON(ICLR)쪽이 있겠습니다. 일단은 당장 떠오르는 아이디어들입니다. CY26은 이제 막 R&D에 하나씩 써보는 수준이니 성장성에 영향을 주지 않지만 → CY27 언젠가쯤 부각되고 → CY28쯤에 실적으로 드러나지 않을까 생각하고 있습니다.

​

가능성은 높겠으나 실제로 그 방향으로 갈지를 모르는 단계이고, 선베팅은 잘 안 하려고 하다보니 지금 당장의 투자의견은 없습니다. 혹시 CRO쪽으로 투자할만한가 해서 살펴보다보니, 2월에 크게 하락했던 이유들을 쭉 정리하게 됐었는데 이유가 꽤나 복합적입니다. 도움이 되실까 해서 CRO 기업들의 2~4월 하락 이유를 정리해봤습니다:

​

2월 3일 (IQV -11.9%, ICLR -6.0%, MEDP -3.3%) : 앤스로픽의 Claude가 CRO 업무를 일부 대체하며 take rate가 감소하지 않겠냐는 우려가 있었습니다.

2월 5일 (IQV -10.7%, ICLR -10.9%, MEDP -3.6%) : IQVIA가 CY26 EPS 가이던스를 $12.55~12.85로 제시했는데 컨센 $12.95 대비 밑돌아서 하락했습니다. AI발 하락세가 진행되던 와중에 EPS 가이던스도 컨센을 하회하면서 크게 빠졌던 것입니다.

2월 10일 (MEDP -15.9%, IQV -5.3%, ICLR -6.5%) : Medpace의 4Q25 실적이 안좋았습니다. 매출보다 더 중요한 게 Book-to-Bill Ratio인데 1.04x로 컨센 1.15x 대비 크게 낮았습니다. 당장 매출은 30% 넘게 성장하고 있지만, 앞으로 매출로 전환될 신규 계약 증가속도가 빠르게 둔화되고 있다는 신호였습니다.

2월 12일 (ICLR -39.9%, IQV -4.7%, MEDP -1.9%) : 이때는 좀 갑작스럽게 ICLR의 회계 위원회가 2023~2025년의 매출인식과 내부통제를 조사 중이라고 발표했습니다. FY23/24 매출이 각각 최대 2% 미만 과대계상됐을 가능성이 있으며, 이로 인해 FY25 가이던스를 철회하고, 4Q25 실적발표 결과는 4월 말까지 2개월 가량 연기한다고 발표했습니다. ICLR 고유의 이슈였습니다.

4월 말에 회계 위원회가 내부조사를 마치고 나서 CY23 과대계상은 0.8%, CY24는 1.1%로 2% upper보다 낮았고, 고객, 운영, 현금흐름에는 영향이 없었습니다.

4월 23일 (MEDP 개별 이슈로 -22.6%) : 이때는 Medpace의 1Q26 실적에서 매출은 YoY +26.5%인데 Book-to-Bill Ratio가 0.88x까지 떨어졌었습니다. 예상치 0.98~1.04x보다도 훨씬 낮았던 것이고, 사장도 은퇴를 발표하면서 주가가 크게 하락했었습니다.

원래도 바이오텍의 프로젝트 캔슬, 빅파마의 R&D 예산 효율화, 미국의 약가 정책 변화, FDA 임상 요건 변화 가능성 등 여러 가지 이슈로 인해 CRO 업계의 예상 성장률이 떨어지며 멀티플이 하락하던 와중이었는데 AI가 불을 붙인 측면이 큽니다. 

그러다가 최근에는 IQV의 BB는 1Q26 1.11x → 2Q26 1.22x로 상승하고, MEP도 1Q26 0.88x를 지나 → 2Q26 1.13x로 반등, ICLR도 1Q26 1.42x → 2Q26 1.51x(이거는 좀 복잡한데, direct-fee BB는 1.20x로 보는 게 맞습니다)로 1Q, 2Q로 갈수록 좋아지는 중입니다.

AI, 개발과 규제의 딜레마

앤스로픽 내부와 외부에서 바라보는 규제에 대한 시각

​

조 론스데일 : 조금 더 큰 관점에서, 지금 우리가 이 변화의 어느 지점에 와 있는지도 이야기해보죠.

​

이제 막 대학을 졸업했거나 이미 직장생활을 하고 있는 사람이라면 어떻게 해야 할까요? 앤스로픽에서 일하는 것도 아니고 실리콘밸리 한가운데 있는 것도 아니지만, 충분히 똑똑하고 야심 있는 사람일 수는 있지 않습니까.  두 분이 앞으로 몇 년 동안 만들어갈 변화를 생각했을 때, 이런 사람들은 자신의 커리어를 어떻게 설계하는 게 좋다고 보십니까?

 

니콜라스 마웰 : 앞으로는 몇 가지 서로 다른 시나리오가 가능하다고 생각합니다. 그리고 앤스로픽은 우리가 세상에 가져올 수 있는 위험에 대해서도 솔직하게 이야기할 책임이 있습니다.

​

저희가 실제로 상당히 우려하는 문제 중 하나가 실업입니다. 하지만 한편으로는 이 기술이 사회 전체로 확산되는 데 꽤 오랜 시간이 걸릴 수도 있습니다. 10년이나 20년에 걸쳐 AI를 여러 산업과 영역에 적용하는 과정에서 엄청나게 많은 기회가 생기고, 사람들이 그 일을 자신의 커리어로 삼게 되는 시나리오도 충분히 가능합니다.

​

지금 대학에 다니는 제 남동생도 바로 이런 고민을 하고 있습니다. 제가 동생을 비롯한 몇몇 사람들에게 해준 이야기는, 만약 그런 시나리오가 펼쳐진다면 앞으로 10년은 여러 면에서 '제너럴리스트의 시대'가 될 것이라는 겁니다. 지난 20년, 어쩌면 50년 동안 좋은 커리어를 만드는 가장 일반적인 방법은 시장에서 높은 가치를 인정받는 특정한 기술 하나를 깊게 익히는 것이었습니다. 자신은 그 분야를 잘하고, 나머지는 다른 사람들의 전문성에 의존하는 방식이었죠.

​

그런데 앞으로는 누구나 사실상 직원 1,000명짜리 회사 전체의 역량을 등에 업고 일할 수 있게 됩니다. 그렇게 되면 가장 중요한 능력은 무엇일까요? 어떤 문제를 풀어야 하는지를 가장 잘 이해하는 것입니다. 사업적으로 어떤 문제가 중요한지, 혹은 사회에 기여한다는 관점에서 자신의 공동체를 더 나아지게 만들려면 무엇을 해야 하는지를 아는 사람이 중요해집니다.

​

그런 사람들은 실제로 변화를 만들어내는 데 필요한 도구를 거의 모두 갖게 될 겁니다. 그래서 앞으로는 무엇을 할 수 있느냐보다, 어떤 문제에 집중해야 하는지를 판단하고 선택하는 능력이 훨씬 중요해질 것이라 봅니다.

​

조 론스데일 : 결국 중요한 질문은 이런 것 같습니다. 어떤 문제를 해결해야 하는가, 그리고 내가 속한 공동체를 어떻게 더 나은 곳으로 만들 수 있는가 하는 것이죠. 유대교 신앙의 기본적인 바탕에도 이런 생각이 있습니다. 일주일 중 6일은 세상을 조금씩 고쳐나간다는 마음으로 일하고, 안식일에는 쉬는 겁니다. 주요 종교 가운데 상당수에도 비슷한 가르침이 있다고 생각합니다.

​

제가 낙관적인 이유도 여기에 있습니다. 우리 주변의 사람들과 공동체 안에는 언제나 돕고, 바로잡고, 더 나아지게 만들 일이 있을 겁니다. 우리가 정말로 유토피아에 도달한다고 믿지 않는 이상, 사람들이 해야 할 일은 계속 남아 있을 겁니다.

​

저는 그런 의미에서 꽤 낙관적으로 봅니다.

​

니콜라스 마웰 : 전적으로 동의합니다.

​

조 론스데일 : 그렇죠. 세상에는 여전히 해야 할 일이 많습니다. 제 생각에 그 종교가 근본적으로 말하는 것도, 메시아가 오기 전까지 이 세상이 유토피아가 되지는 않는다는 것입니다. 그러니 우리는 계속 잘못된 것을 고쳐나가야 합니다. 저는 오히려 그것이 긍정적인 사고방식이라고 봅니다.

​

두 분이 기본적으로 낙관적인 분들이라는 것도 알고 있고, AI가 가져올 긍정적인 가능성도 많다고 생각합니다. 그래도 몇 가지 우려는 짚고 넘어가고 싶습니다. 많은 사람들이 실제로 궁금해하는 부분이기 때문입니다.

​

샌프란시스코나 뉴욕에 가보면, 심지어 텍사스 오스틴에서도 정말 많은 긍정적인 변화가 일어나고 있다는 걸 느낄 수 있습니다. 반면 미국의 다른 지역에 사는 많은 사람들은 자신의 사업이나 생계가 위협받고 있다고 느끼는 것 같습니다. 당연히 두려울 수밖에 없겠죠.

​

그 사람들 입장에서는 두 분 같은 사람들이 이 기술을 가지고 대체 무슨 생각을 하고 있는지, 혹시 세상을 완전히 장악하려는 것은 아닌지 알 방법도 없습니다.

​

그렇다면 사람들이 지금 놓치고 있는 것은 무엇입니까? 반대로 두 분도 실제로 우려하고 있는, 충분히 일어날 수 있는 나쁜 시나리오가 있습니까? 아니면 사람들이 두려워하는 시나리오 자체가 잘못된 방향을 보고 있는 걸까요?

이 문제를 두 분은 어떻게 생각하십니까?

​

숄토 더글라스 : 그런 우려는 충분히 타당하다고 생각합니다. 저희도 몇 가지 큰 범주의 위험을 실제로 걱정하고 있습니다. 다만 이런 문제들은 앞으로 몇 년 동안 제대로 대응한다면, 2030년대에는 지금보다 훨씬 나아진 세상으로 이어질 수 있다고 봅니다.

​

가장 큰 문제 중 하나는 앞서 말씀드린 실업입니다. 왜 이것을 위험으로 보는지, 또 해결하려면 어떤 조치가 필요한지에 대해서는 꽤 길게 이야기할 수 있습니다. 그보다 더 즉각적이고 단기적인 위험도 있습니다. 생물학적 위험이나 사이버 위험 같은 문제입니다. 이런 것들은 먼 미래의 이야기가 아니라, 이미 올해도 실제로 나타나고 있는 문제들입니다.

​

조 론스데일 : 여기에는 여러 문제가 얽혀 있죠. 예를 들어 한때 세포의 미토콘드리아에 관한 질문조차 제대로 할 수 없다는 이유로 사람들이 앤스로픽을 놀리기도 했습니다. 꽤 유명한 사례였죠. 하지만 그런 질문은 당연히 할 수 있어야 하는 것 아닙니까? 핵심은 정상적인 생물학 지식까지 막는 것이 아니라, 실제로 무기를 만드는 데 도움이 되는 식의 위험한 사용만 막는 것이라고 생각합니다.

​

숄토 더글라스 : 그런 질문은 당연히 할 수 있어야 합니다. 다만 저희가 하려는 것은 누구도 모델을 이용해 실제 무기를 만들 수 없도록, 그 부분을 확실하게 막는 체계를 마련하는 것입니다.

​

니콜라스 마웰 : 생물학이나 사이버 분야가 특히 어려운 이유는, 여기서 필요한 능력들이 본질적으로 이중 용도이기 때문입니다. 같은 능력이 좋은 목적에도 쓰일 수 있고, 나쁜 목적에도 쓰일 수 있다는 뜻입니다. 사이버 분야가 가장 이해하기 쉬운 예라고 생각합니다.

​

예를 들어 Claude에게 "여기 코드베이스가 있으니 취약점을 전부 찾아주세요"라고 요청한다고 해보겠습니다. 이 요청을 한 사람이 자신의 시스템을 더 안전하게 만들려는 코드베이스의 소유자일 수도 있습니다. 반대로 침입할 방법을 찾고 있는 공격자일 수도 있죠.

​

모델 입장에서는 똑같은 작업이지만, 사용 목적은 완전히 다를 수 있습니다. 사이버 분야의 안전을 관리하기 어려운 근본적인 이유가 여기에 있습니다. 생물학 역시 이런 이중 용도의 특성을 많이 가지고 있기 때문에 비슷한 문제가 생깁니다.

​

조 론스데일 : 예를 들어 세포 안의 특정 대상을 정밀하게 공격하는 기술이 있다고 해보죠. 99.9%의 경우에는 암세포를 없애기 위해 쓰이겠지만, 아주 작은 가능성으로는 누군가 끔찍한 목적에 활용할 수도 있다는 말씀이군요?

​

니콜라스 마웰 : 그렇습니다. 그래서 저희는 선의로 사용하는 사람들은 이 기술의 이점을 충분히 활용할 수 있게 하면서도, 악의적인 사용은 막을 수 있는 여러 방법을 연구하고 있습니다. 다만 기본 원칙은 분명합니다. 악의적인 사용자가 이 기술을 이용해 실제로 해를 끼치는 것을 막을 수 있기 전에는, 그런 능력을 세상에 내놓아서는 안 된다고 생각합니다.

​

조 론스데일 : 실제로 그런 사람들이 있습니다. 물론 앤스로픽의 모델을 사용한다는 이야기는 아닙니다.

​

예를 들어 아프리카의 테러 조직들이 중국의 공개 모델을 이용해서, 예전에는 잘 알지 못했던 폭발물 제작법 같은 것을 더 쉽게 익히고 있을 가능성은 충분히 있다고 생각합니다. 원래는 그런 분야에 능숙하지 않았더라도, 모델이 그 격차를 상당 부분 메워줄 만큼 똑똑해졌다는 것이죠.

​

분명히 매우 위험한 사용 사례가 존재합니다. 다만 저는 전체적으로 보면 지능이 더 풍부해질수록, 그런 위험한 활용 방식이 어떻게 가능한지도 더 많은 사람이 이해하게 되고 이를 막기 위한 대응 능력도 함께 커질 수 있다고 봅니다. 결국 이 두 측면을 함께 놓고 따져봐야 하는 문제라고 생각합니다.

​

숄토 더글라스 : 그래서 여기서 중요한 건 각 분야가 공격자에게 더 유리한지, 아니면 방어자에게 더 유리한지를 보는 것입니다. 현재로서는 사이버와 생물학 모두 공격 쪽이 더 유리한 분야라고 생각합니다. 하지만 앞으로 2년 정도 지나면 사이버 분야는 오히려 방어 쪽이 더 유리한 구조로 바뀔 가능성이 있다고 봅니다.

​

조 론스데일 : 모두가 AI의 지능을 활용해 자기 시스템을 직접 해킹해보고 방어를 구축할 수 있다면 그렇겠죠.

​

숄토 더글라스 : 맞습니다. AI를 이용하면 공격이 들어오기 전에 먼저 자기 시스템을 계속 테스트해볼 수 있습니다. 스스로 침입을 시도해보고, 어디가 취약한지 찾아낸 다음, 그 부분을 미리 수정하면서 방어를 계속 강화할 수 있는 것이죠. 그렇게 되면 결국 지금보다 훨씬 더 사이버 보안이 잘 갖춰진 세상으로 갈 수 있다고 생각합니다.

​

조 론스데일 : 조금 더 큰 관점에서 보죠. 공격과 방어의 관계는 정말 흥미로운 주제입니다. 인류 역사에서 수천 년 동안 반복돼온 문제이고, 어느 쪽이 우위에 있는지는 시대에 따라 크게 달라졌습니다.

​

저는 과거 유럽에 서로 경쟁하던 자유로운 도시국가들이 많았다는 점을 높이 평가합니다. 한 도시국가가 잘못된 방향으로 가면 다른 도시국가로 옮길 수 있었습니다. 그런 선택지가 있다는 것 자체가 굉장히 좋은 일이었죠.

​

그런데 대포를 가진 사람들이 등장하면서 상황이 달라졌습니다. 성벽을 쉽게 무너뜨릴 수 있게 됐고, 거대한 제국을 세울 수 있게 됐습니다. 그러고 나서는 자기 도시국가를 떠나는 것만으로 문제를 피할 수 없었습니다. 어디로 가든 결국 같은 세력의 지배 아래 놓일 수 있었기 때문입니다.

​

이런 식으로 역사적으로 공격과 방어의 우위는 계속 바뀌어왔습니다. 

​

저도 지금 사이버 분야는 사람들이 실제로 두려워해야 할 정도로 공격 쪽이 훨씬 유리하다고 생각합니다. 이 방송을 듣는 분들께 말씀드리자면, 최신 AI를 이용해서 자기 시스템이 어떻게 공격받을 수 있는지 직접 시험해보고 있지 않다면 언젠가 누군가에게 뚫릴 가능성이 상당히 높습니다. 그리고 그 사람이 아주 악의적인 사람일 수도 있습니다. 지금은 실제로 꽤 위험한 시기입니다.

​

장기적으로는 사이버 분야가 방어 우위로 바뀌고, 기술이 좋은 방향으로 활용될 수 있다는 점에는 저도 동의합니다. 다만 AI와 관련해 제가 우려하는 것 중 하나는, 아직 우리가 발견하지 못한 기술 가운데 극단적으로 공격 쪽에 유리한 것이 있을 수도 있다는 점입니다.

​

실제로 그런 일이 일어날 것이라고 믿는다는 뜻은 아닙니다. 예를 들어 아주 높은 수준의 지능을 이용하면 스스로 복제하면서 세상의 모든 것을 집어삼키는 나노로봇을 만들 수 있다고 가정해보죠. 단 한 명의 천재가 그것을 만들어냈는데, 결국 통제할 수 없게 돼 세상을 모두 집어삼키고 우리가 전부 죽는 겁니다. 다시 말씀드리지만 실제로 그런 일이 벌어질 것이라고 생각하는 것은 아닙니다.

​

제가 궁금한 것은 이것입니다. 만약 공격 쪽에 극단적으로 유리한 기술이 실제로 존재한다면, 오히려 우리가 더 강력한 지능을 이용해서 그런 가능성을 남들보다 먼저 발견해야 하는 것 아닙니까?

​

숄토 더글라스 : 그렇습니다. 사실 생물학은 우리가 엄청난 규모의 투자를 통해 방어 체계를 갖추기 전까지는 공격 쪽이 극도로 유리한 분야라고 생각합니다. 생물학적 위협에 대해 방어가 우세한 세상을 만드는 방법 자체는 있습니다. 문제는 그에 필요한 인프라 규모가 정말 크다는 것입니다. 아마 수천억 달러가 들어갈 수도 있습니다. 그런 수준의 인프라를 실제로 구축하려면 2030년대쯤에는 로봇공학 역량도 지금보다 훨씬 발전해서, 그 구축 과정을 상당 부분 지원할 수 있어야 할 겁니다.

​

조 론스데일 : 그렇다면 지금은 상당히 위험한 시기라고 볼 수 있겠네요. 현재는 공격 쪽이 유리하지만, 우리가 원하는 것은 결국 이 구조를 방어 쪽이 더 유리하도록 바꾸는 것입니다.

​

제 생각에는 이런 문제를 지나치게 비밀에 부치지 않고, 어느 정도는 공개적으로 드러내는 것이 해결책의 일부일 수 있습니다. 특정 집단 하나가 비밀리에 연구하는 것보다는, 더 많은 사람들이 지능을 활용해서 여러 가능성을 시험해보고 위험을 찾아내도록 하는 편이 낫다고 생각합니다.

​

*코멘트 → 숄토가 말한 "AI가 사이버를 공격자 우위에서 방어자 우위로 바꿀 수 있다"는 전략을 오픈AI, 앤스로픽, 구글이 거의 동시에 실제 프로그램으로 만들고 있습니다. 오픈AI의 Daybreak, 앤스로픽의 Project Glasswing, 구글의 Fairwind Program이 공통적으로 취하는 전략은 가장 강력한 사이버 능력을 일반 사용자에게 바로 공개하는 것이 아니라, 검증된 보안팀과 중요 인프라 운영자에게 먼저 제공해서 공격자보다 몇 달이라도 먼저 시스템을 강화하게 만드는 것입니다. 일종의 Defender Head Start입니다.

​

숄토 더글라스 : 그 점에는 저희도 전적으로 동의합니다.

​

조 론스데일 : 그와 관련해서 앤스로픽은 전반적으로 큰 존경을 받고 있습니다. 저는 지금의 앤스로픽을 1990년대의 마이크로소프트와 비슷하게 보기도 합니다. 어떤 회사든 업계 선두로 올라서면 사람들이 질투하기도 하고, 공격하기도 합니다. 그중 일부는 단순히 그 회사가 너무 강한 존재감을 갖고 시장을 주도하고 있다는 데서 나오는 반감일 수 있습니다.

​

하지만 비판 가운데에는 충분히 진지하게 받아들여야 할 지적도 있습니다. 제가 아는 아주 똑똑한 사람들 중 상당수는 앤스로픽이 일종의 '규제 포획(= 사다리 끊기)'을 시도하고 있는 것 아니냐는 인상을 갖고 있습니다. 규제 포획은 좋은 일이 아니라 분명 나쁜 일이죠. 이 부분은 더 깊이 이야기해볼 수도 있을 것 같습니다. 이런 비판에 대해서는 어떻게 생각하십니까?

​

니콜라스 마웰 : 아마 두 가지를 나눠서 이야기해볼 필요가 있을 것 같습니다. 하나는 왜 공개 가중치 모델을 둘러싼 논의에서 '규제 포획'이라는 비판이 나왔는가입니다. 다른 하나는, 정말로 어떤 회사가 자기 이익을 위해 규제를 장악하려 한다면 과연 앤스로픽처럼 행동했겠느냐는 질문입니다.

​

먼저 첫 번째부터 보겠습니다. 상황을 자세히 모르는 사람이라면 이런 식으로 생각할 수 있습니다. 공개 가중치 모델은 우리가 지켜야 할 중요한 공공재 성격의 기술이고, 동시에 앤스로픽의 사업과 어느 정도 경쟁 관계에 있습니다. 그렇다면 앤스로픽이 규제를 이용해서 공개 가중치 모델 개발자들을 압박하려는 것 아니냐는 의심을 할 수 있겠죠.

​

역사적으로 오픈소스나 공개 가중치 모델 진영은 규모가 작고 자금도 부족한 경우가 많았습니다. 복잡한 규제에 대응할 여력도 크지 않았습니다. 그래서 그런 우려가 나오는 것 자체는 이해할 수 있습니다.

​

하지만 지금은 상황이 많이 다릅니다. 공개 가중치 모델을 만들고 발전시키고, 실제로 서비스하는 주체들을 보면 대부분 세계에서 가장 큰 기업들입니다. 미국만 봐도 엔비디아, 아마존, 마이크로소프트 같은 회사들이 공개 가중치 모델의 성능 한계를 계속 밀어붙이고 있습니다. 중국의 연구소들 역시 막대한 자금을 지원받고 있고, 최근에는 일반에 모델 접근을 공개하는 연구소도 점점 늘고 있습니다.

​

이들은 규제 환경에 충분히 대응할 수 있는 주체들입니다. 그래서 공개 모델과 비공개 모델에 동일하게 적용되는 규제가, 공개 가중치 모델 개발자들만 특별히 불리하게 만들어 발전을 막을 것이라고는 크게 우려하지 않습니다.

​

두 번째는 더 직접적인 문제입니다. 만약 앤스로픽의 목적이 오로지 자기 회사에 유리하도록 규제를 설계하는 것이었다면, 과연 지금까지 했던 선택들을 했을까 하는 겁니다. 좋은 사례가 Fable을 둘러싼 결정입니다. 그 전에 있었던 Mythos도 비슷합니다. 이걸 순수하게 경제적인 관점에서만 생각해보죠.

​

당시 앤스로픽은 세계에서 압도적으로 가장 뛰어난 모델을 가지고 있었습니다. 비슷한 수준에 근접한 모델을 가진 곳조차 거의 없었습니다. 그 몇 달의 성능 우위를 최대한 활용했다면, 다른 연구소들이 과연 앤스로픽과 경쟁할 수 있을지를 두고 시장의 의문을 사실상 끝내버릴 수도 있었습니다.

​

그런데 저희는 그렇게 하지 않았습니다. 정부와 협력해서, 정부가 받아들일 수 있는 방식으로 모델을 배포하는 쪽을 선택했습니다. 경제적으로만 보면 회사에 분명 불리한 결정이었습니다. 하지만 모델이 어떻게 배포되고 규제되어야 하는지에 대한 저희의 가치관에는 맞는 선택이었습니다.

​

그래서 저는 이것을 경제적 이익을 위한 규제 포획이라고 보지 않습니다. 저희는 중요하면서도 잠재적으로 위험한 기술이 개발되고 배포되는 과정에서 정부가 중요한 역할을 해야 한다고 생각합니다. 

​

그리고 프론티어에 있는 회사라면 정부가 지금 무슨 일이 벌어지고 있는지를 충분히 이해하고, 그 과정에 참여할 수 있도록 돕는 것도 책임의 일부라고 생각합니다. 그렇지 않다면 사회 전체의 이해관계를 누가 대표하겠습니까?

​

조 론스데일 : 그런데 바로 그 지점도 흥미롭습니다. 정부에는 정말 많은 사람이 있고, 현 정부 안에도 상당히 똑똑한 사람들이 있습니다. 하지만 자신이 무엇을 하고 있는지 제대로 이해하지 못하는 사람들도 많습니다. 그러다 보니 때로는 이상한 결과가 나오기도 합니다.

​

두 분은 직접 말씀하시기 어려울 수도 있지만, 저는 말할 수 있습니다. 제가 이해하기로는 앤스로픽의 모델에 사람들이 방어 목적으로 활용할 수 있는 더 강력한 사이버 능력이 있었는데, 정부로부터 출시 승인을 받기 위해 그 능력을 일부 약화시킨 것으로 알고 있습니다.

​

저는 그 결정은 잘못됐다고 생각합니다.

​

니콜라스 마웰 : 저는 이것을 미국에서 오랫동안 중요한 역할을 해온 전통적인 민관 협력을 적극적으로 활용하는 것이라고 봅니다. 미국의 시스템은 정부가 세상의 모든 주제에 대해 가장 많이 알고, 가장 뛰어난 전문성을 가진 조직이어야 한다는 전제로 만들어져 있지 않습니다.

​

오히려 중요한 것은 좋은 민관 협력 관계를 만드는 것입니다. 정부가 앤스로픽이나 오픈AI, 메타 같은 기업들과 어떻게 협력해야 하는지를 알고, 그 과정을 통해 기술을 충분히 이해할 수 있어야 합니다. 그래야 이 기술을 어떤 방식으로 규제하고, 또 사회에 어떻게 도입할지를 제대로 판단할 수 있습니다.

​

조 론스데일 : 제가 아는 기술 업계 리더들 중에는 훨씬 더 회의적으로 보는 사람들도 있습니다. 그들의 주장을 그대로 옮기면 대략 이런 이야기입니다.

​

"다리오가 사람들에게 위험을 크게 강조해서 더 많은 규제를 만들고, 업계의 발전 속도를 늦추려는 것 아니냐. 그리고 결국 그 규칙을 만드는 과정에서 자신이 가장 큰 영향력을 가진 사람 중 하나가 되려는 것 아니냐."이런 비판을 하는 사람들에게는 어떻게 답하시겠습니까?

​

숄토 더글라스 : 지금까지 저희는 다른 누구보다도 스스로의 개발 속도를 더 많이 늦춰왔다고 생각합니다.

​

실제로 데미스 허사비스가 제안한 논의를 보면 알 수 있습니다. 오픈AI, 딥마인드, 앤스로픽처럼 비공개 모델을 개발하는 회사들이 서로 협력해서, 모델을 출시하기 전에 반드시 충족해야 할 공통의 안전 기준을 만들자는 제안입니다. 저희는 스스로 중요하다고 생각하는 원칙을 지키기 위해, 필요하다면 저희 자신의 개발 속도까지 늦추는 방안을 실제로 논의하고 있습니다. 그리고 이 기회에 오픈소스에 대한 저희의 전반적인 입장도 분명히 설명해두는 게 좋을 것 같습니다.

​

조 론스데일 : 어떤 입장인가요?

​

숄토 더글라스 : 저희가 실제로 어떤 입장인지 말씀드리겠습니다. 적어도 개인적으로 저는 오픈소스를 굉장히 지지합니다. 오픈소스가 세상에 존재하는 것은 정말 좋은 일이라고 생각합니다. 저 역시 오픈소스 모델을 통해 머신러닝을 배웠습니다.

​

다만 동시에 분명한 위험도 있고, 앞으로 모델의 능력이 더 강해질수록 그 위험 역시 커질 것이라고 봅니다. 그래서 저희가 중요하게 생각하는 것은 사회 전체가 어느 수준까지는 안심하고 공개할 수 있는지에 대한 기준을 정하는 것입니다. 예를 들어 어떤 모델이 사이버 공격에 활용될 수 있다면, 어느 정도의 능력까지는 공개해도 괜찮다고 볼 것인지 기준이 필요합니다.

​

그리고 그 기준은 비공개 모델이든 오픈소스 모델이든 동일하게 적용돼야 한다고 생각합니다. 그 안전 기준을 충족한다면, 그 이후에는 각자가 원하는 방식으로 개발하고 배포할 수 있어야 합니다.

​

조 론스데일 : 그런데 중국이 어차피 누구나 사용할 수 있는 강력한 모델들을 계속 공개한다면, 이런 기준을 만드는 것이 실제로 얼마나 의미가 있을까요? 미국만 지나치게 규제해서 스스로 발전 속도를 늦추고, 중국은 같은 제약을 받지 않아서 결국 더 앞서가거나 오히려 위험이 커지는 상황도 생각할 수 있습니다. 그런 가능성은 어느 정도로 보고 계십니까? 이 문제는 어떻게 접근해야 한다고 생각하십니까?

​

숄토 더글라스 : 이상적으로는 중국과도 이런 문제에 대해 실제로 협력할 수 있어야 한다고 생각합니다. 중국 역시 자국이 사이버 공격을 받는 상황을 원하지는 않을 테니까요.

​

조 론스데일 : 다만 중국은 미국이 사이버 공격을 받는 것은 원하는 것 같습니다. 제가 보기에는 그렇습니다.

​

숄토 더글라스 : 그럴 수도 있죠. *웃음* 그래도 자기들이 사이버 공격을 받는 건 원하지 않을 겁니다. 

​

이상적으로는 이런 문제에서 중국과도 협력할 수 있어야 합니다. 다만 현실적으로는 쉽지 않은 일이고, 앞으로 몇 년 동안 가장 어려운 문제 중 하나가 될 것이라고 생각합니다. AI의 능력은 계속 빠르게 발전할 테니까요. 그리고 이런 변화는 사생활 보호든, 사이버 보안이든, 고용이든 여러 이유로 많은 사람을 상당히 불안하게 만들 겁니다. 이미 데이터센터 건설을 둘러싼 반발 같은 형태로 그런 움직임이 나타나고 있습니다.

​

이런 상황에서 개발 속도를 늦추거나 멈추려면, 다른 주요 당사자들과 조율할 수 있어야 하고 서로 어느 정도 신뢰도 있어야 합니다. 그렇지 않으면 한쪽만 멈추는 것은 현실적으로 매우 어렵습니다.

​

조 론스데일 : 그런데 중국은 멈추지 않을 것 같습니다. 그렇다면 결국 미국만 스스로 속도를 늦추고, 중국이 앞서가도록 내버려두는 시나리오도 가능한 것 아닙니까? 현실적으로 우리가 직접 통제할 수 있는 것은 미국 쪽의 선택뿐인 것처럼 보이는데, 이 문제는 어떻게 봐야 할까요?

​

숄토 더글라스 : 저희가 받아들일 수 있는 시나리오 가운데 미국만 속도를 늦추고 중국이 앞서가도록 만드는 경우는 없다고 생각합니다. 만약 개발 속도를 늦추는 선택을 한다면, 모든 주요 당사자들이 실제로 약속을 지킨다고 신뢰할 수 있을 정도로 철저하게 조율된 방식이어야 합니다.

​

기본적으로 미국만 일방적으로 속도를 늦추는 일은 없을 것이라고 봅니다.

'Distillation' 개척과 효율

더 높은 지능이 새로운 시장을 만든다

조 론스데일 : 다른 사람들과 비교하면 두 분은 오픈소스에 상당히 개방적인 입장이신 것 같습니다. 오픈소스가 본인들의 삶에도 좋은 영향을 주었다고 생각하시고요.

​

그런데 지금 공개되는 오픈소스 모델 중 일부는 앤스로픽의 기술을 사실상 훔쳐서 만든 것처럼 보입니다. 저라면 상당히 짜증이 날 것 같습니다. 이런 걸 증류(Distillation)라고 부르죠. 많은 사람들이 이런 질문을 합니다.

​

앤스로픽에는 그렇게 똑똑한 AI가 있는데, 그 AI를 이용해서 누가 모델의 능력을 빼내고 있는지 감시하고 막으면 되는 것 아니냐는 겁니다. 그런데 왜 아직도 이런 증류를 막지 못하는 겁니까? 두 분은 증류 문제를 어떻게 보고 계시고, 실제로 지금 어떤 일이 벌어지고 있는 건가요?

​

숄토 더글라스 : 증류에 대해서는 두 가지를 나눠서 이야기해보겠습니다. 하나는 저희가 왜 증류에 반대하는지, 그리고 증류가 과연 좋은 일인지 나쁜 일인지에 관한 문제입니다. 다른 하나는 증류가 나쁘다면 왜 막지 못하느냐는 질문입니다.

​

두 번째 질문부터 답하자면, 기본적으로 계속 쫓고 쫓기는 싸움이 벌어지고 있기 때문입니다. 사용자들은 모델을 최대한 자유롭게 활용하고 싶어 합니다. 모델이 생성한 출력을 직접 확인하고 싶어 하고, 자기 컴퓨터에서 모델을 실행하고 싶어 합니다. 모델이 어떤 추론 과정을 거쳐 답을 내놓았는지도 보고 싶어 하죠.

​

그런데 사용자들에게 이런 접근을 조금씩 더 허용할 때마다, 다른 사람들이 모델을 증류하는 것도 그만큼 쉬워집니다. 결국 저희가 제공하는 도구와 제품을 얼마나 개방적으로 만들 것인지, 그리고 그 과정에서 증류가 얼마나 쉬워지는지 사이에는 근본적인 상충관계가 있는 겁니다.

​

니콜라스 마웰 : 첫 번째 질문, 그러니까 애초에 왜 증류를 문제라고 생각하느냐에 대해서는 저는 이렇게 봅니다.

저희는 AI가 계속 발전하기를 바랍니다. 더 똑똑한 모델이 등장할수록 세상에 훨씬 더 많은 긍정적인 변화를 가져올 수 있다고 믿기 때문입니다. 그런데 증류는 현재 AI의 프론티어를 뛰어넘는 방법이 아닙니다. 이미 존재하는 모델의 능력을 다른 모델에 옮기는 것이지, 지금까지 없었던 새로운 능력을 만들어내는 것은 아니기 때문입니다.

​

조 론스데일 : 그저 여러분을 복사하는 거군요.

​

니콜라스 마웰 : 네네, 결국 기존 모델을 복사하는 겁니다.

​

문제는 AI의 다음 프론티어에 도달하려면 먼저 막대한 자본을 투자해야 한다는 점입니다. 지금 당장은 아니더라도 앞으로는 모델을 한 번 학습시키는 데 $10B, $100B, 심지어 $1T가 들어가는 시대가 올 수도 있습니다. 그만한 연구개발 투자를 지속하려면 그렇게 만든 모델로 돈을 벌어서 투자비를 회수할 수 있어야 합니다.

​

그런데 다른 누군가가 그 비용의 일부만 들여 여러분이 만든 모델의 능력을 복사하고, 불과 1~2주 만에 경쟁 제품을 내놓을 수 있다면 어떻게 될까요? 그 회사는 막대한 연구개발비를 부담하지 않았기 때문에 오히려 비용 측면에서 훨씬 유리한 위치에 서게 됩니다. 그래서 정말 AI의 프론티어가 계속 발전하기를 원한다면, 모델을 직접 연구하고 학습시키는 기업들의 지식재산권을 보호해야 한다고 생각합니다. 

​

여기서 한 가지 더 말씀드리고 싶습니다. 사람들은 이 문제를 신약 개발과 자주 비교합니다. 저는 AI가 특히 흥미로운 사례라고 생각합니다. 신약 개발에서 지식재산권을 보호할 때 얻는 장점은 상당 부분 누리면서도 그에 따른 단점은 일부 피할 수 있기 때문입니다. 그렇다면 장점은 무엇일까요? 지식재산권을 보호해주기 때문에 기업들이 막대한 연구개발비를 투자할 수 있고, 그 결과 미국에서 더 많은 신약이 개발된다는 것입니다.

​

조 론스데일 : 맞습니다. 하지만 그 결과 신약 가격이 굉장히 높아진다는 단점도 있죠. 그런데 AI는 이 점에서 신약과 다릅니다. 신약은 10년 이상, 길게는 20~30년 동안 지식재산권으로 보호받지만, AI 모델이 프론티어에 머무는 기간은 불과 몇 달밖에 되지 않습니다. 그만큼 AI에서는 지능의 가격이 놀라울 정도로 빠르게 떨어지고 있다는 점이 흥미롭습니다.

​

니콜라스 마웰 : 6개월마다 새로운 프론티어 모델이 등장하면 그 모델은 여전히 비싸겠지만, 불과 6개월 전까지만 해도 프론티어였던 모델은 훨씬 저렴해집니다. 누구나 부담 없이 풍부하게 사용할 수 있게 되는 것이죠. 프론티어가 이미 그다음 단계로 이동했기 때문입니다.

​

이것은 AI 모델이 학습되고 발전하는 방식 자체에서 비롯되는 특징입니다. 그래서 AI에서는 지식재산권을 보호함으로써 연구개발 투자를 촉진하는 장점은 상당 부분 누리면서도, 기술을 오랫동안 독점해서 가격이 높게 유지되는 단점은 대부분 피할 수 있다고 생각합니다.

​

숄토 더글라스 : 특정 수준의 지능을 사용하는 데 드는 비용을 보면 이런 변화를 아주 명확하게 확인할 수 있습니다. AI 관련 지표를 추적하는 사이트들이 많이 있는데, Artificial Analysis에도 이런 추세를 보여주는 자료가 있습니다. 동일한 수준의 지능을 이용하는 비용이 매년 대략 10분의 1로 떨어지고 있습니다. 1년이 지날 때마다 비용이 90%씩 낮아지는 셈이니 정말 엄청난 속도입니다. 그리고 중요한 점은 이런 가격 하락이 증류 없이도 일어나고 있다는 것입니다. AI 기술 자체가 발전하면서 자연스럽게 나타나는 현상입니다.

​

조 론스데일 : 물론입니다. 누구나 다른 사람이 만든 것을 마음대로 복사할 수 있고, 모두가 그렇게 하기 시작하면 결국 시스템 전체가 무너질 수 있다는 건 직관적으로 생각해도 불공정한 일이죠.

​

숄토 더글라스 : 그렇습니다. 그렇다면 이런 질문도 하실 수 있을 것 같습니다. "여러분이 만든 제품이 그렇게 빨리 구식이 된다면, 그건 사업 모델 자체에 문제가 있는 것 아닌가요?"

​

조 론스데일 : 어떤 면에서는 그렇죠. 6개월까지는 아니더라도 1년 정도 지나면 확실히 구식이 되는 것 아닙니까? 결국 앤스로픽이 계속 성공하려면 AI의 프론티어를 끊임없이 앞으로 밀어 나가야 한다는 이야기군요.

​

숄토 더글라스 : 맞습니다. 저희가 계속 성공하려면 AI의 프론티어도 끊임없이 발전해야 합니다. 그리고 이것은 저희가 AI 산업을 바라보는 관점에서 굉장히 중요한 부분입니다. 

​

사실 AI가 세계 경제에 본격적으로 도입된 정도는 아직 극히 미미합니다. 세계 경제는 수십조 달러 규모인데, AI 기업들의 매출을 전부 합쳐봐야 이제 겨우 $100B를 조금 넘는 수준입니다. 더 중요한 건 이 비교 자체가 AI로 인해 세계 경제의 규모가 커지지 않는다고 가정하고 있다는 점입니다.

​

 
 

​

저희는 AI 덕분에 경제 자체가 크게 성장할 것이라고 예상합니다.

​

물론 프론티어보다 조금 뒤처진 모델들은 시간이 지나면서 점점 커머디티처럼 변할 겁니다. 누구나 비슷한 성능을 훨씬 저렴하게 이용할 수 있게 되는 것이죠. 하지만 가장 앞선 프론티어에서는 이야기가 다릅니다. 만들어낼 수 있는 경제적 가치는 훨씬 더 큽니다. 저희는 AI의 프론티어에 아직도 엄청난 가치가 남아 있다고 생각합니다.

​

니콜라스 마웰 : 저희는 이것을 지능이 높아질수록 그로부터 얻는 경제적 가치도 기하급수적으로 커진다고 표현하곤 합니다. 지능이 한 단계 발전할 때마다 새롭게 가능해지는 일의 가치가 이전 단계보다 훨씬 더 커진다는 뜻입니다. 실제로 저희는 이미 이런 변화를 경험했습니다.

​

코딩을 예로 들어보겠습니다. 처음으로 사람들에게 실질적인 도움이 됐던 AI 코딩 기능은 자동완성이었습니다. 코드를 작성하다가 Tab 키를 누르면 다음에 올 코드를 자동으로 채워주는 정도였죠.

​

그런데 지능이 한 단계 더 발전하면서 Claude Code 같은 제품이 등장했습니다. 이제는 터미널에서 AI 에이전트가 직접 코드를 작성하고 작업을 수행할 수 있게 됐습니다. 저는 이것이 이전의 자동완성보다 100만 배는 더 가치 있는 능력이라고 생각합니다. 물론 그사이에 Tab 키를 눌러 코드를 자동완성하는 기능은 누구나 제공할 수 있는 범용적인 기능이 됐습니다. 이제 그 기능만으로는 회사를 만들기가 어렵습니다.

​

하지만 중요한 것은 그다음 단계의 지능이 등장하면서 완전히 새로운 능력이 생겨났고, 그 능력이 만들어내는 경제적 가치는 이전과 비교할 수 없을 만큼 커졌다는 점입니다.

​

*코멘트 → 개척과 효율의 루프에 대해서는 7월 6일 주간전략보고에서 생각을 정리해드린 바 있습니다.

​

이를 가져오자면:

​

프론티어 AI Labs의 개척 : '새로운 작업이 가능해진다'

AI 모델 발전은 계속해서 개척과 효율화의 루프를 그려왔습니다. 프론티어 AI Labs가 새로운 모델을 출시하면, 처음에는 이전 세대 모델로는 잘 풀리지 않던 새로운 작업 영역이 열립니다. 더 긴 추론, 더 복잡한 코딩, 더 긴 컨텍스트, 더 높은 신뢰도의 에이전트 작업, 멀티모달 활용처럼 사용 사례의 난이도 자체가 올라갑니다. 

​

이 시기에는 모델 성능의 절대값이 중요합니다. 따라서 폐쇄소스 프론티어 모델의 가치가 크게 부각됩니다. 사용자는 단순히 더 저렴한 모델을 찾는 것이 아니라, 이전에는 불가능했거나 신뢰도가 낮아서 맡기기 어려웠던 작업을 처리할 수 있는 모델을 찾습니다. 이 구간에서는 가성비보다 '가능한 작업의 범위'가 더 중요합니다.

​

오픈소스 AI 모델의 효율화 : '동등한 작업을 더 저렴하게'

하지만 시간이 지나면 효율화 사이클이 시작됩니다. 어떤 작업이 가능한지, 어떤 프롬프트 구조가 잘 작동하는지, 어떤 툴을 붙이면 되는지, 어떤 평가셋으로 품질을 검증해야 하는지가 점차 정리되면 기업들은 open-weights 모델에 각종 스캐폴딩을 붙여 프론티어 모델로 가능했던 output 퀄리티에 근접하려고 시도합니다.

​

실제로 문제 정의가 명확하고 반복 가능한 업무에서는 이런 방식이 꽤 잘 작동합니다. 고객 응대, 문서 분류, 정형화된 코드 보조, 내부 검색, 요약, 반복적인 백오피스 업무처럼 작업 범위가 분명한 영역에서는 open-weights 모델과 엔지니어링 최적화의 조합이 충분히 경쟁력을 가질 수 있습니다.

​

비용의 위치가 바뀐다

중요한 점은 이것이 '공짜로 프론티어 모델을 대체한다'는 의미가 아니라는 것입니다. 모델 API 사용료는 줄어들 수 있지만 반대로 다른 비용이 늘어납니다. 스캐폴딩을 위한 도구, 평가 시스템, 데이터 파이프라인, 파인튜닝, 모니터링, 보안, 운영 자동화, 유지보수에 시간과 비용이 들어갑니다. 결국 비용이 API 사용료에서 → SWE 엔지니어 인건비/데이터/인프라로 이동하는 것입니다. 겉으로는 모델 비용을 절감하는 것처럼 보이지만 실제로는 이것도 꽤 많은 내부 리소스와 시스템 구축 역량을 필요로 합니다. 따라서 open-weights 효율화는 폐쇄소스 모델의 완전한 대체라기보다는 일부 반복 업무에서 비용 구조를 바꾸는 과정에 가깝습니다.

​

시간이 지나면 프론티어는 새로운 시장을 연다

문제는 이 효율화가 어느 정도 완성될 즈음이면 프론티어 AI Labs가 다시 새로운 모델을 내놓습니다. 그렇게 나온 새 모델은 기존 작업을 더 싸고 빠르게 처리하는 데서 끝나지 않습니다. 이전에는 경제성이 없거나 신뢰도가 부족해서 쓰기 어려웠던 더 높은 부가가치의 사용 사례를 새롭게 열어줍니다.

​

그러면 사용자들은 다시 그 새로운 능력에 맞춰 사용량을 늘립니다. 기업들은 더 복잡한 업무를 AI에 맡기기 시작합니다. 단순 문서 요약 → 코드 작성으로 → 장기 에이전트 작업으로 → 단일 작업 자동화에서 복수 시스템을 넘나드는 업무 자동화로 사용 사례가 확장됩니다. 이때 AI 수요는 줄어드는 것이 아니라 더 높은 난이도의 작업으로 이동합니다.

​

간단하게 보자면, input $1~$2를 가져다가 $10의 output을 뽑아내는 경쟁에서 → input $5~$10를 가져다가 output $50를 뽑아내는 경쟁으로 → input $10~$20을 가져다가 output $100를 뽑아내는 경쟁으로 향합니다. AI 모델을 가지고 할 수 있는 작업당 창출하는 부가가치의 TAM이 성장하는 속도가 효율화시키는 속도보다 더 빠르기에 AI Labs들의 총 시장규모가 빠르게 커지고, 폐쇄소스와 오픈소스 Labs들의 ARR이 동시에 빠르게 증가하며, 컴퓨트 부족이 강화되고 있습니다.

​

효율화 공식은 새로운 문제에서 한계를 맞는다

이전 효율화 사이클에서 성공했던 로직, 'open-weights 모델에 충분한 스캐폴딩을 붙이면 프론티어 모델과 비슷하게 만들 수 있다'는 접근은 새로운 문제 분포에서는 다시 한계에 부딪힙니다. 과거의 작업은 따라잡을 수 있지만 프론티어 모델이 새롭게 연 작업 영역에서는 다시 장기 작업 수행 능력의 격차가 벌어집니다.

​

따라서 오픈소스 모델은 과거에 개척된 작업을 효율화하는 데 강점이 있고, 프론티어 폐쇄소스 모델은 아직 표준화되지 않은 새로운 작업 영역을 여는 데 강점이 있습니다. 두 영역은 경쟁하면서도 역할이 다릅니다. 한쪽이 다른 한쪽을 완전히 대체하는 구조라기보다 시간차를 두고 서로 다른 층위의 수요를 담당하는 구조입니다.

​

결국 어느 수준 이상을 넘기지 못하는 이유는 결국 오픈소스 모델들이 부족한 FLOPS를 보충하기 위해, 프론티어 AI Labs의 모델에서 지식을 distillation해서 오픈소스 모델을 만드는 데 사용하기 때문입니다. 이번에도 사람들은 GLM-5.2, Kimi-K2.7을 보며 Mythos Preview 버전부터 상당량 distillation하여 모델을 훈련시켰을 것으로 추정하고 있습니다. GPT가 프론티어일 때는 GPT를, Gemini가 프론티어일 때는 Gemini를, Claude가 프론티어일 때는 Claude에서 데이터를 뽑아내고 있습니다.

​

개척 → 효율화 → 재개척의 루프

정리하자면, AI 산업은 프론티어 모델과 오픈 모델 중 하나가 일방적으로 승리하는 구조가 아닙니다. 프론티어 모델이 새로운 사용 사례를 개척하고, 이후 open-weights 생태계와 엔지니어링 최적화가 그 일부를 효율화하며, 다시 프론티어 모델이 더 높은 난이도의 사용 사례를 여는 반복 구조에 가깝습니다. AI 발전이 계속해서 개척 → 효율화 → 재개척의 루프를 그리는 이유입니다.

​

따라서 오픈소스 모델의 성능 개선을 폐쇄소스 프론티어 모델 수요의 구조적 붕괴로 해석하기보다 AI 사용 사례가 한 단계 표준화되고 있다는 신호로 보는 편이 더 적절하다고 생각합니다. 그리고 프론티어 모델이 다시 더 어려운 작업 영역을 열 때마다 전체 AI 사용량과 컴퓨팅 수요는 한 번 더 확장될 가능성이 높습니다.

​

물론 언젠가 이 리듬이 통하지 않을 때가 생길 수도 있겠습니다만, 2023년 AI Boom 이후 매번 그래왔기에 이것을 상수로 보고 접근하는 것이 더 합리적이라 생각합니다. 그래도 매번 오픈소스가 폐쇄소스를 잡아먹을 것이란 오해가 반복되긴 합니다.

​

조 론스데일 : 몇 년 전 앤스로픽을 처음 생각했을 때만 해도 저는 이 부분이 직관적으로 잘 이해되지 않았습니다. 지금까지 세상을 살아오면서 경험한 바로는 기하급수적인 성장이 그렇게 오랫동안 지속되는 경우가 거의 없었기 때문입니다.

​

그래서 당시에는 이렇게 생각했습니다. '좋아, 앞으로 몇 년 동안은 엄청난 가치를 만들어내겠지. 하지만 어느 시점부터는 지능이 발전한다고 해서 경제적 가치까지 계속 기하급수적으로 늘어나지는 않을 거야.'

​

그런데 이런 미래를 믿으려면 어떤 면에서는 굉장히 낙관적이어야 합니다. 단순히 Tab 키로 코드를 자동완성하던 수준에서 AI가 직접 코딩하는 에이전트로 발전할 것이라고 믿어야 하니까요. 그렇다면 에이전트 코딩보다 훨씬 더 가치 있는 다음 단계는 무엇일까요? 어쩌면 암을 치료할 수 있게 되는 것일 수도 있겠죠.

​

숄토 더글라스 : 그리고 그 사이에도 엄청난 가치가 있는 단계들이 있습니다. 예를 들어 업계의 어떤 소프트웨어 엔지니어보다도 뛰어나고, 실제 엔지니어 한 명의 업무를 완전히 대체할 수 있는 AI가 등장하는 겁니다. 그런데 그런 능력을 엄청나게 저렴한 비용으로 이용할 수 있게 되는 것이죠.

​

그뿐만 아니라 온갖 업무를 도와주는 경영진 수준의 AI도 등장할 수 있습니다. 그래서 사람들이 흔히 말하는 것처럼 "결국 AI도 전부 범용 상품이 되는 것 아니냐"고 생각할 수 있지만, 저는 그 시점에 도달하기도 전에 엄청난 변화가 일어날 것이라고 봅니다.

​

AI 지능의 완전한 범용화가 조금이라도 가시권에 들어올 정도가 되면, 세계 경제는 이미 근본적으로 바뀌어 있을 겁니다. 그때는 말 그대로 지적 노동뿐 아니라 물리적 노동까지, 경제 전체가 AI 시스템을 중심으로 움직이게 될 것이라고 생각합니다.

​

조 론스데일 : 그렇죠. 그때쯤이면 경제 자체의 규모도 지금보다 훨씬 커져 있을 겁니다. 완전히 다른 수준의 경제가 되어 있겠죠. 그리고 앤스로픽이 그런 발전을 이끄는 기업이라면, 당연히 수조 달러의 기업가치를 인정받을 수 있을 겁니다.

​

숄토 더글라스 : 맞습니다.

CY26 $1T → CY27 $2T → CY28 $4T?

대략 생각하는 CapEx 상향의 궤적과 AI가 만들어낼 풍요

조 론스데일 : 분명히 우려해야 할 문제들이 많습니다. 그런데도 두 분은 여전히 낙관적이신 것 같습니다. 그렇다면 왜 이렇게 빠른 속도로 AI를 발전시키려는 건가요? 다시 한번 설명해주시겠습니까? 궁극적으로 무엇을 이루고 싶은 겁니까?

​

숄토 더글라스 : 저희가 궁극적으로 무엇을 이루려는지, 무엇을 위해 이 일을 하고 있는지를 물으시는 거죠?

​

먼저 저희가 왜 이런 위험을 우려하는지부터 다시 말씀드리겠습니다. 결국 인간을 그대로 대체할 수 있을 만큼 뛰어난 AI를 갖게 되기 때문입니다. 사람이 컴퓨터를 이용해 할 수 있는 모든 일을 AI도 사람만큼 잘할 수 있게 됩니다. 로봇공학까지 충분히 발전한다면 물리적인 세계에서 사람이 하는 모든 일도 똑같이 해낼 수 있게 되겠죠.

​

하지만 동시에 이런 능력은 엄청난 발전을 가능하게 합니다. 지금의 인구와 인간의 역량만으로는 앞으로 수백 년이 걸릴 기술 발전을 불과 10년이나 20년 안에 이뤄낼 수 있다는 뜻입니다.

​

조 론스데일 : 저는 항공우주 분야에서 이미 그런 변화를 보고 있습니다. 항공기 설계 속도가 엄청나게 빨라지고 있습니다. 원래대로라면 2040년대에나 등장했을 법한 첨단 항공기를 앞으로 몇 년 안에 볼 수 있을 것 같습니다. 정말 멋진 일이죠.

​

 

숄토 더글라스 : 이런 식으로 인류의 지적 생산 능력과 물리적 생산 능력을 계속 늘려갈 수 있습니다. 심지어 두 배씩 늘려가는 것도 가능할 겁니다. 그렇게 되면 궁극적으로는 희소성이 사실상 사라지는 세상에 도달할 수도 있습니다. 말 그대로 무엇이든 만드는 데 드는 비용이 거의 에너지 비용만 남는 수준까지 낮아지는 겁니다. 예를 들어 집을 짓는 데도 인건비나 다른 비용이 거의 들지 않고, 사실상 필요한 에너지 비용만 부담하면 되는 세상이 오는 것이죠.

​

조 론스데일 : 중산층도 원한다면 거대한 집을 가질 수 있게 되겠네요.

​

숄토 더글라스 : 맞습니다. 그런 풍요를 중산층도 누릴 수 있게 되는 겁니다. 오늘날 우리가 당연하게 누리는 것들을 수백 년 전의 왕들은 상상조차 할 수 없었던 것과 마찬가지입니다.

​

모든 질병을 치료할 수 있고, 인간의 수명도 지금보다 훨씬 길어진 세상일 수 있습니다. 지금 세계에서 가장 부유한 사람조차 누리지 못하는 수준의 풍요를 지구상의 모든 사람이 누릴 수 있게 되는 겁니다. 저희가 궁극적으로 이루고 싶은 것이 바로 그런 세상입니다.

​

하지만 거기에 도달하는 과정은 굉장히 까다로울 겁니다. 우선 그런 미래에 안전하게 도달할 방법을 찾아야 합니다. 그리고 그 과정에서 만들어지는 막대한 부를 어떻게 나눌 것인지도 해결해야 합니다.

​

극심한 불평등이 발생해서는 안 됩니다. 지금 우연히 많은 자본을 소유하고 있는 사람들에게만 혜택이 돌아가는 것이 아니라, 누구나 원한다면 그런 풍요를 누릴 수 있어야 합니다. 결국 AI가 만들어내는 엄청난 경제적 성과를 사회 전체에 어떻게 분배할 것인가는 앞으로 해결해야 할 매우 큰 사회적/정치적 문제라고 생각합니다.

​

조 론스데일 : 그렇지만 우리가 이미 그런 세상에 도달했다고 가정해도 많은 실수를 저지를 수 있습니다. 지금은 노동의 존엄성이 정말 중요합니다. 우리는 아직 거기에 도달하지 않았습니다. 가까이 가지도 못했죠.

​

숄토 더글라스 : 하지만 올바른 방향으로 기술에 투자한다면 그런 세상에 도달할 기회는 충분히 있다고 생각합니다. 지금까지의 추세를 조금 더 연장해서 생각해보겠습니다. 지난 4~5년 동안 AI에 투입되는 컴퓨팅 자원은 매년 2~3배씩 증가해왔습니다. 여기서 흥미로운 질문은 이런 증가세가 앞으로도 계속될 수 있느냐는 것입니다. 

​

지금까지는 대체로 그 추세가 유지되고 있다고 봅니다. 올해 하이퍼스케일러들이 AI 관련 설비투자에 쓰는 돈은 약 $1T에 달합니다. 그렇다면 이 추세가 계속 이어져서 내년에는 $2T, 2028년에는 $4T까지 늘어날 수 있을까요? 저는 이 부분이 굉장히 흥미롭다고 생각합니다.

​

만약 이런 흐름이 계속되고 로봇공학을 비롯한 다른 분야로까지 확장된다면, 2030년대 초에는 AI와 로봇공학에 대한 투자 규모가 매년 두 배씩 증가하는 상황을 볼 수도 있습니다. 물론 지금 들으면 다소 터무니없는 이야기처럼 느껴질 수도 있습니다. 실제로 그렇게 될지는 계속 지켜봐야 하고, 이런 시나리오가 현실이 되려면 여러 가지 조건이 맞아떨어져야 합니다.

​

조 론스데일 : 이제 생산성 증가율이 본격적으로 가속하기 시작할 수도 있겠다는 생각이 듭니다. 앞으로 몇 년 안에는 실제로 그런 변화가 나타나야 할 것 같고, 경제 통계에서도 분명하게 확인되기 시작할 것 같습니다.

​

신임 연준 의장인 케빈 워시도 AGI의 등장까지 믿고 있는지는 모르겠지만, AI가 이끌어낼 생산성 향상에 대해서는 굉장히 낙관적입니다. 저희와도 친분이 있는 아주 똑똑한 분이죠.

​

앞으로 이런 생산성 향상이 경제 곳곳에서 점점 더 뚜렷하게 나타날 것 같습니다. 그런데 거기서 끝나는 게 아니라 생산성이 높아지는 속도 자체가 계속 빨라질 수도 있다는 겁니다. 이렇게 말하면서도 믿기 어려울 정도입니다.

​

숄토 더글라스 : 최근에 굉장히 흥미로운 차트 하나를 봤습니다. 필리핀의 고용 추이를 보여주는 차트였는데, 실제로 고용이 늘어나고 있더군요.

​

조 론스데일 : 저는 그게 놀라웠습니다. 필리핀의 BPO가 큰 타격을 받을 거라고 생각했거든요. BPO는 비즈니스 프로세스 아웃소싱을 뜻합니다. 단순한 콜센터 업무 같은 것을 하는데 그런데도 여전히 성장하고 있습니다.

​

숄토 더글라스 : 그런데도 고용은 계속 늘어나고 있습니다. 실제로 소프트웨어 엔지니어링 분야에서도 고용이 증가했습니다. 저는 그 이유 중 상당 부분이 AI 덕분에 사람들의 생산성이 갑자기 이전보다 훨씬 높아졌기 때문이라고 생각합니다. 다만 여기서 흥미로운 질문은 사람과 AI가 함께 일하면서 생산성이 높아지고, 그 결과 고용까지 늘어나는 현상이 과연 얼마나 오래 지속될 수 있느냐는 것입니다.

​

조 론스데일 : 해야 할 일이 훨씬 더 많으니까요. 할 일이 훨씬 많습니다. 이런 기술을 긍정적인 방향으로 활용하고 있는 거죠.

​

숄토 더글라스 : 적어도 단기적으로는 그래 보입니다. 하지만 모든 것이 괜찮아질 것이라고 너무 확신해서는 안 된다고 생각합니다.

​

니콜라스 마웰 : 지금은 숄토가 말한 것처럼 어떤 면에서는 굉장히 좋은 시기일 수도 있습니다. 아직은 AI를 제대로 활용하려면 사람의 역할이 매우 중요하기 때문입니다. AI가 직원 한 사람 한 사람의 생산성과 가치를 크게 높여주고 있습니다. 그러다 보니 기업 입장에서는 오히려 직원을 더 많이 고용하고 싶어지는 겁니다.

​

하지만 저희는 어느 시점이 되면 이런 상황이 달라질 것이라고 생각합니다. 지금은 AI의 능력을 최대한 활용하려면 반드시 사람이 함께 일해야 하지만, 앞으로는 사람의 개입 없이도 AI가 그 능력을 온전히 발휘할 수 있게 될 겁니다. 저희가 정말 심각하게 우려하는 것은 바로 그 전환점 이후에 어떤 일이 벌어질 것이냐는 문제입니다.

​

조 론스데일 : 체스와 비슷하네요. 30년 동안은 인간과 기계가 한 팀을 이뤘을 때 가장 뛰어난 실력을 보였는데, 이제는 기계가 압도하고 있으니까요.

​

니콜라스 마웰 : 저희는 AI에서는 그 기간이 훨씬 짧을 것이라고 생각합니다. 지난 3~5년 사이에 제 생각을 크게 바꾼 일이 하나 있습니다. 처음 AI의 발전 속도를 생각했을 때도 언젠가는 지금과 같은 수준에 도달할 것이라고 믿었습니다. 심지어 제가 지금 예상하는 1년 뒤의 수준까지도 충분히 도달할 수 있다고 생각했습니다. 다만 거기까지 가는 데 훨씬 오랜 시간이 걸릴 것이라고 봤습니다.

​

가장 큰 이유는 그만큼 모델을 발전시키는 데 필요한 데이터를 대규모로 확보하려면 엄청난 시간과 비용이 들어갈 것이라고 생각했기 때문입니다. 그런데 당시에도 AI의 발전 가능성을 상당히 높게 평가하고 있었던 제 예상마저 뛰어넘는 일이 벌어졌습니다. 앤스로픽과 오픈AI의 매출과 사업 규모가 믿기 어려울 정도로 빠르게 성장한 겁니다.

​

그 결과 AI를 개발하는 기업들이 막대한 자본을 투입해서, 원래는 해결하는 데 오랜 시간이 걸릴 것이라고 생각했던 여러 병목을 훨씬 빠르게 돌파할 수 있게 됐습니다. 컴퓨팅 인프라 확충이 좋은 예입니다. 불과 5년 전만 해도 AI 인프라에 연간 $1T를 투자한다는 것은 대부분의 사람들이 상상조차 하지 못했던 일이었습니다.

​

조 론스데일 : 1년 전에도 상상하기 어려웠습니다. 

​

니콜라스 마웰 : 맞습니다. 사실 1년 전만 해도 상상하기 어려운 일이었죠. *웃음* 지금은 서로 맞물리면 엄청난 파급력을 만들어낼 여러 변화가 동시에 일어나고 있는 시기라고 생각합니다. 좋은 방향으로 작용하는 것도 있고, 나쁜 방향으로 작용하는 것도 있겠죠.

​

예를 들어 요즘은 컴퓨팅 인프라를 우주에 구축한다는 이야기까지 나오고 있습니다. 흥미로운 건 AI가 본격적으로 발전하는 시점과 스페이스X가 그동안 쌓아온 역량을 본격적으로 발휘하기 시작하는 시점이 거의 맞물렸다는 겁니다. 스페이스X가 지금 수준에 도달하는 데 10년이 더 걸렸다면 AI의 발전 일정도 달라졌을 수 있습니다.

​

조 론스데일 : 그 점은 일론의 공으로 돌려야겠습니다. 다른 누구보다도 훨씬 먼저 그 일을 시작할 만큼 무모한 사람이었으니까요.

​

니콜라스 마웰 : 반면 훨씬 더 우려스러운 변화들도 동시에 일어나고 있습니다. 제가 살아온 동안 세계가 지금만큼 극심하게 양극화된 적은 없었던 것 같습니다. 그런데 하필 이런 시기에 AI가 등장하고 있다는 점은 여러 면에서 걱정스럽습니다. 국가 간 경쟁도 점점 더 치열해지고 있고요. 게다가 저는 AI가 기술의 특성상 다른 정치 체제보다 권위주의 체제에 더 유리하게 작용할 수 있다고 생각합니다.

​

조 론스데일 : 그런데 사실 그 두 가지가 서로 연결되어 있는 것 아닐까요? 소셜미디어가 머신러닝과 점점 더 발전하는 AI를 활용하는 방식 자체가 사람들을 양극화시키고 있는 건 아닙니까? 결국 소셜미디어는 사람들의 관심을 최대한 많이 끌어야 하는 구조잖아요. 그런 관심 경제의 특성 자체가 사람들을 양극화하는 방향으로 작용하는 것은 아닐까요?

​

니콜라스 마웰 : 제가 양극 체제라고 한 건 중국과 미국으로 나뉜 세계 구도를 말한 겁니다.

​

조 론스데일 : 미국 안에서 좌우가 양극화되는 현상을 말씀하신 건 아니군요?

​

니콜라스 마웰 : 물론 그것도 생각해볼 만한 문제입니다. 다만 AI가 지금이 아니라 2000년대 초반처럼 미국이라는 하나의 강대국을 중심으로 세계 질서가 움직이던 시기에 등장했다면 어땠을까 싶습니다. 당시처럼 국가 간 경쟁이 지금보다 덜 치열하고 세계가 훨씬 더 단극적인 구조였다면, AI가 긍정적인 결과로 이어질 가능성을 저도 조금은 더 낙관적으로 봤을 것 같습니다.

​

숄토 더글라스 : 우주에서 가장 가치 있는 자원이 하필 세계의 두 초강대국 사이에 있는 작은 섬에서 생산되고 있다는 것 자체가, 정말 SF 소설에나 나올 법한 비극적인 상황입니다.

​

니콜라스 마웰 : 어떤 면에서는 참으로 시적인 상황입니다.

​

조 론스데일 : 말씀을 종합하면, 이 시기를 잘 통과했을 때 인류가 도달할 미래에 대해서는 상당히 낙관하고 계신 것 같습니다. 큰 틀에서의 전망은 그렇군요.

필즈상은 받아도, 퓰리처는 어렵다

미래는 학습 데이터 생산 속도가 병목일 수 있다

조 론스데일 : 청취자분들도 궁금해하실 만한 질문을 하나 더 드리고 싶습니다.

​

물론 엄청난 경제적 풍요를 누리는 것도 좋은 일입니다. 하지만 우리 문명에는 그 밖에도 중요하게 여기는 가치들이 있습니다. 미덕과 가족이 있고, 많은 사람들이 삶의 기반으로 삼는 전통적인 가치관도 있습니다. 물론 노동의 존엄성도 중요합니다. 이런 것들이 오랫동안 우리 사회를 지탱해왔고, 지금의 우리를 만들어온 것이죠.

​

그런데 이런 거대한 변화가 하필 샌프란시스코에서 일어나고 있다는 점을 걱정하는 사람들도 있습니다. 평균적으로 보면 그곳 사람들은 이런 전통적인 가치들을 다른 지역만큼 중요하게 여기지 않을 수도 있으니까요.

​

AI 기술을 주도하는 사람들이 자신들의 생각대로 세상을 완전히 바꿔놓으면서, 기독교나 일부일처제 같은 우리가 오랫동안 지켜온 전통적인 가치들까지 사라지게 만드는 것 아니냐는 우려입니다.

​

그렇다면 이런 가치들을 지키기 위해 어떤 제도나 사회적 기관을 만들어야 할까요? 지금 샌프란시스코에서 이 거대한 변화를 직접 이끌고 있는 두 분은 이런 문제를 어떻게 생각하십니까?

​

숄토 더글라스 : 우선 흥미로운 점은 샌프란시스코에 있는 저희 역시 앞으로 이런 전통적인 제도와 공동체가 오히려 더 중요해질 것이라고 생각한다는 겁니다. AI가 발전할수록 사람들의 삶에서 일이 차지하는 비중은 점점 줄어들 것이고, 자본주의적인 경제활동이 삶에서 갖는 중요성도 지금보다 작아질 수 있기 때문입니다.

​

사람들이 점점 더 큰 풍요를 누리게 되면, 오히려 삶에서 중요해지는 것은 전통과 의례, 다른 사람에게 도움을 주는 일, 그리고 자신이 속한 지역 공동체와 그 안에서 맺는 인간관계가 될 것이라고 생각합니다.

​

니콜라스 마웰 : 저도 그렇게 생각합니다. 그리고 조금 의외일 수 있지만, 지적인 탐구를 계속하고 세상을 깊이 이해하려는 노력도 오히려 더 중요해질 수 있다고 봅니다.

​

물론 경제적인 가치가 높아진다는 뜻은 아닙니다. 모든 것이 풍족해서 부족한 것이 거의 없는 세상에서는 이런 활동들이 오히려 삶의 즐거움을 찾고, 공동체의 일원이라는 소속감을 느끼고, 삶의 의미를 얻는 몇 안 되는 중요한 수단으로 남을 수 있기 때문입니다.

​

조 론스데일 : 두 분은 아직 젊고, 이미 큰 성공도 거두셨습니다. 앞으로 앤스로픽이 계속 성장한다고 가정해보죠. 그러면 회사에서 일하는 분들도 상당한 자원을 갖게 될 것이고, 세계 전체적으로도 지금보다 훨씬 더 풍요로워질 겁니다.

​

그렇다면 그런 자원을 활용해서 앞서 이야기한 가치와 공동체를 지키는 데 도움이 되는 기관이나 조직을 직접 만들어볼 생각도 해보셨습니까? 개인적으로 특별히 관심이 있거나 꼭 만들어보고 싶은 것이 있나요?

​

숄토 더글라스 : 닉, 아버님이 운영하시는 유아교육 사업이 좋은 사례가 될 것 같네요. 사실 앤스로픽 내부에서도 이런 문제를 정말 많이 논의하고 있습니다. 자선활동은 앤스로픽의 기업 문화에서 굉장히 중요한 부분이고, 그 규모도 엄청납니다.

​

이와 관련해서 읽었던 좋은 블로그 글이 하나 있습니다. 제목이 아마 「The New Wave of American Philanthropy」, 그러니까 '미국 자선활동의 새로운 물결' 정도였던 것 같습니다. 그 글에서는 오픈AI 재단과 앤스로픽 직원들이 앞으로 기부할 수 있는 자금의 규모가 AI 연구기관 수백 곳, 심지어 게이츠 재단 수십 개에 맞먹을 수도 있다는 이야기를 합니다.

​

*코멘트 → 「The New Wave of American Philanthropy」 내용은 흥미로운 주장입니다. 

​

AI가 앞으로 막대한 부를 만들면서 '미국 자선활동의 세 번째 큰 물결'이 시작될 것이고, 문제는 돈이 아니라 그 돈을 제대로 쓸 조직과 인재가 부족하다는 주장입니다.

​

저자는 미국 자선활동을 세 시기로 나눕니다.

​

1차 물결 : 카네기·록펠러 같은 산업 자본가들이 대학, 도서관, 재단 등 현대 자선활동의 기반을 만들었습니다.

2차 물결 : 게이츠 등 소프트웨어와 인터넷 부자들이 글로벌 보건과 빈곤 문제에 대규모 자본을 투입했고, 효과적 이타주의처럼 자선활동의 효율성을 측정하는 방식이 발전했습니다.

3차 물결 : 이제 OpenAI Foundation, 앤스로픽 창업자와 앤스로픽 직원 등 AI로 만들어진 부가 새로운 자선 자본의 원천이 된다는 것입니다.

​

저자의 추정으로는 OpenAI Foundation과 앤스로픽 관계자들만으로도 향후 연간 $37~100B의 추가 자선 지출 여력이 생길 수 있습니다. 그런데 이 정도 돈을 AI 안전, 바이오보안, 생명과학, 교육, 시민사회, 문화 같은 문제에 제대로 투입하려면 지금보다 훨씬 많은 조직과 창업자가 필요합니다. 그렇게 되면 공공재를 다루기 위한 실리콘밸리가 필요하게 될 것이라고 말했습니다. 스타트업처럼 빠르게 움직이는 비영리/공익 조직, 이를 만드는 창업가, 그리고 VC처럼 좋은 프로젝트를 찾아 대규모 자금을 배분하는 전문 자선 투자기관을 대거 만들어야 한다는 것입니다.

​

니콜라스 마웰 : 사람들이 관심을 갖고 있는 분야도 굉장히 다양합니다. 예를 들어 제가 기부한 재단 중에는 모든 바이러스성 질병을 없애는 것을 목표로 하는 프로그램을 운영하는 곳이 있습니다. 이렇게 건강과 관련된 문제에 집중하는 사람들이 많습니다.

​

제 동료 중 한 명은 AI가 노동시장에 미칠 영향을 연구하는 비영리단체에 기부했습니다. 실제로 노동시장에서 어떤 변화가 일어나고 있는지, 우리가 정말 걱정해야 할 문제가 무엇인지, 현장의 데이터는 무엇을 보여주고 있는지를 깊이 연구하는 곳입니다.

​

또 사람들이 이 전환기를 잘 헤쳐나가고, 그 과정에서 충분한 지원을 받고 있다고 느끼며, 전환이 끝난 뒤에는 이전보다 더 나은 삶을 살 수 있도록 어떤 정책을 추진해야 할지도 연구하고 있습니다.

​

저는 개인적으로 아버지에게 큰 영향을 받았습니다. 아버지는 지난 15~20년 동안 교육 분야에 집중해오셨습니다. 앞서 말씀드렸듯이 앞으로는 사람들이 배우고 싶어 하는 것 자체가 크게 달라질 것이라고 생각합니다. 20년 뒤에도 사람들이 지금처럼 아주 전문적인 기술 분야에서 박사학위를 따려고 할지는 잘 모르겠습니다.

​

하지만 지식을 탐구하고, 새로운 것을 배우는 과정에서 즐거움을 느끼고, 다른 사람들과 지적으로 교류하고, 우리가 살아가는 세상을 이해하는 능력은 오히려 훨씬 더 중요해질 것이라고 생각합니다. 지금까지 이야기한 방향으로 세상이 바뀐다면, 우리 대부분에게는 상당히 혼란스럽고 이해하기 어려운 세상이 될 수 있기 때문입니다.

​

그런데 AI 업계의 많은 사람들이 믿고 있지만, 저는 잘못된 생각이라고 보는 것이 하나 있습니다. AI가 발전하면 교육 문제도 자연스럽게 해결될 것이라는 생각입니다. 교육 수준이 높은 상위 1% 가정의 아이들에게 좋은 교육을 제공하는 것을 넘어, 모든 사람에게 좋은 교육을 제공하려면 반드시 이해해야 할 두 가지가 있습니다.

​

첫 번째는 교육의 효과가 굉장히 강하게 누적된다는 점입니다. 좋은 예가 있습니다. 어떤 학생이 앞으로 수학을 얼마나 잘할지를 예측하는 데 가장 중요한 지표 중 하나는 초등학교 3학년을 마칠 때 자기 학년에 맞는 수준으로 글을 읽을 수 있느냐는 것입니다.

​

왜 그럴까요? 초등학교 3학년 무렵부터는 교육의 방식이 크게 달라지기 때문입니다. 그전까지는 글을 읽는 방법 자체를 배우는 단계였다면, 그때부터는 글을 읽으면서 다른 지식을 배우는 단계로 넘어갑니다. 교육에서는 이런 일이 굉장히 많이 일어납니다. 특히 아이들은 자신이 무언가를 잘하지 못한다고 느끼면, 그 일을 계속하려는 의욕을 잃어버리는 경우가 많습니다. 사실 어른들도 마찬가지죠.

​

그런데 여기서 또 하나의 문제가 있습니다. 적어도 지금까지 AI가 굉장히 못했던 일이 하나 있다는 겁니다. 컴퓨터는 어린아이의 주의를 오랫동안 집중시키는 데 별로 능숙하지 않습니다. 오히려 아이들의 주의를 엄청나게 분산시키는 경우가 많은 것 같습니다.

​

그래서 저는 AI가 아이들을 교육하는 과정의 일부에서는 엄청난 도움을 줄 수 있다고 생각합니다. 특히 아이마다 무엇을 배우고 있는지 파악하고, 각자에게 필요한 내용을 가장 적절한 시점에 가르치는 데 큰 도움이 될 겁니다. 하지만 단순히 아주 똑똑한 AI를 만드는 것만으로 교육에 존재하는 모든 문제가 해결될 것이라고는 전혀 생각하지 않습니다. AI가 교육의 모든 문제를 해결해주는 만병통치약이 될 수는 없다는 것입니다.

​

조 론스데일 : 그럼 시간을 2028년 8월로 돌려보겠습니다. 2년 뒤에 이 팟캐스트를 다시 돌아본다고 해보죠. 그때 어떤 일이 벌어져 있다면 두 분도 "와, 이건 우리가 예상했던 것보다 훨씬 빠르게 발전했네"라고 생각하실 것 같습니까?

​

숄토 더글라스 : 저희 예상보다 훨씬 더 빨라야 한다고요? *웃음* 사실 저희는 이미 굉장히 빠른 발전을 예상하고 있습니다. 그보다 더 빠른 시나리오를 생각해본다면, 우주에 데이터센터를 구축하는 일이 언제 현실화되느냐가 중요한 변수가 될 것 같습니다. 이건 누구에게 물어보느냐에 따라 예상하는 시점이 굉장히 크게 달라지는 문제입니다.

​

조 론스데일 : 그게 아주 중요한 부분이겠네요. 우주에서는 할 수 있는 일이 훨씬 많으니까요. 

​

숄토 더글라스 : 일단 우주에 데이터센터를 구축할 수 있게 되면 컴퓨팅 인프라를 확장하는 속도는 훨씬 더 빨라질 겁니다. AI의 발전을 더 가속하는 데 가장 필요한 것이 바로 컴퓨팅 자원이기 때문입니다. 다만 실제로 얼마나 빠르게 규모가 커질지는 아직 잘 모르겠습니다. 얼마나 많이… 아니, 이렇게 말씀드리는 게 좋겠네요.

​

저는 2028년이 됐을 때 일반 가정에 휴머노이드 로봇이 얼마나 보급되어 있을지가 궁금합니다. 그때쯤이면 초기 도입 사례가 꽤 많아져 있을 가능성이 높다고 생각합니다. 아마 수만 대의 로봇이 가정에서 빨래를 하거나 기본적인 청소를 하는 등 집안일을 돕고 있을 겁니다.

​

그런데 실제 보급 속도는 이보다 훨씬 빠를 수도 있습니다. 일단 로봇이 본격적으로 보급되기 시작하면 기술 발전이 다시 더 빠른 발전을 이끌면서 그 효과가 계속 누적될 수 있기 때문입니다.

​

*코멘트 → 숄토가 보는 AI 발전의 상단 시나리오는 결국 물리적 인프라가 얼마나 빨리 풀리느냐에 달려 있습니다. 우주 데이터센터가 가능해지면 전력과 부지 제약을 크게 줄이면서 Compute 증설 속도를 높일 수 있고, 휴머노이드 로봇이 본격적으로 보급되면 AI가 현실 세계의 노동까지 직접 수행하기 시작합니다. 핵심은 AI가 소프트웨어 안에서만 발전하는 것이 아니라, Compute와 Robotics가 동시에 스케일될 때 발전 속도 자체가 한 단계 더 빨라질 수 있다는 이야기입니다.

​

니콜라스 마웰 : 다른 요인들도 있습니다. 저는 AI가 앞으로 해결해야 할 과제 중 상당수가 결국 데이터 문제와 연결되어 있다고 생각합니다. AI의 발전 속도를 제한하는 가장 큰 요인 중 하나는 우리가 중요하게 생각하는 분야에서 학습에 필요한 데이터를 얼마나 빠르게 확보할 수 있느냐는 것입니다.

​

사실 이 부분도 이미 제 예상보다 훨씬 빠르게 발전하고 있습니다. 앞서 말씀드렸듯이 앤스로픽이나 오픈AI 같은 연구소들이 막대한 매출을 올리기 시작하면서, 제가 예상했던 것보다 훨씬 많은 자본을 데이터 확보에 투입할 수 있게 됐기 때문입니다.

​

하지만 결국에는 인간이 새로운 학습 데이터를 만들어낼 수 있는 속도가 AI 발전의 한계로 작용할 것이라고 생각합니다. 예를 들어 생물학 분야를 생각해보죠. AI 모델을 학습시키는 데 필요한 생물학 데이터를 대규모로 생산하기 위해 새로운 실험실을 대거 건설하는 계획을 추진한다고 해보겠습니다. 만약 그런 대규모 프로젝트가 오늘 시작되고, 1년 뒤에는 이미 본격적으로 진행되고 있을 것이라고 말씀하신다면 저는 AI의 발전 속도에 대한 제 예상도 상당히 앞당길 것 같습니다.

​

*코멘트 → 앞으로는 생물학 실험, 로봇 행동, 실제 업무처럼 모델이 아직 충분히 보지 못한 환경에서 새로운 데이터를 만들어야 합니다. RSI를 통해서 모델이 수백만 개의 가설을 생성할 수 있어도 이를 검증할 실험실의 처리량이 따라오지 못하면 학습 데이터 생산 속도가 병목이 됩니다. 결국 다음 단계의 AI 경쟁은 Compute를 얼마나 확보하느냐뿐 아니라 현실 세계에서 얼마나 빠르게 새로운 경험과 검증 가능한 데이터를 생산하느냐의 경쟁이 될 가능성이 크다고 보는 뷰입니다.

​

조 론스데일 : 지금은 코딩이나 수학처럼 아주 구체적인 문제를 해결하는 데 필요한 데이터를 만드는 데 집중하고 있습니다. 그런데 언젠가는 사람들이 더 훌륭한 인격과 미덕을 갖추도록 돕거나, 정신건강을 개선하는 데 필요한 데이터도 만들 수 있지 않을까요? 물론 이런 문제들은 훨씬 더 복잡합니다. 하지만 앞으로 AI가 발전하면 이런 흥미로우면서도 굉장히 어려운 문제들까지 해결할 수 있게 될까요?

​

니콜라스 마웰 : 솔직히 그런 문제는 인간이 풀었으면 좋겠습니다.

​

조 론스데일 : 그래도 문제를 푸는 데 도구를 활용할 수는 있지 않을까요?

​

니콜라스 마웰 : 물론입니다. 그런 문제를 해결하는 데도 AI가 분명 도움이 될 것이라고 생각합니다. 다만 이런 분야는 학습에 필요한 데이터를 대규모로 확보하기가 훨씬 어렵고, 사람마다 무엇이 좋은 결과인지에 대한 기준도 상당히 다를 수 있습니다. 그래서 로봇공학의 문제를 해결하는 것보다는 시간이 더 오래 걸릴 것이라고 봅니다.

​

예를 들어 AI가 2028년에 퓰리처상을 받을 수 있을까요? 저는 그럴 가능성이 높지는 않다고 생각합니다. 그렇다면 AI가 2028년에 필즈상을 받을 수 있을까요? 그건 충분히 가능하다고 봅니다. 노벨상을 받는 것도 터무니없는 이야기는 아닙니다. 저는 2020년대가 끝나기 전에 AI가 그런 수준의 성과를 내는 일이 실제로 벌어질 가능성이 매우 높다고 생각합니다.

​

조 론스데일 : 오늘 두 분과 이야기할 수 있어서 정말 즐거웠습니다. 물론 앞으로 해결해야 할 어려운 문제들이 많겠지만, 우리가 이 변화에 제대로 대응하고 올바른 방향으로 이끌어갈 수 있다면 인류의 미래는 굉장히 밝을 것이라고 생각합니다.

​

니콜라스 마웰 : 저도 그렇습니다. 

​

조 론스데일 : 함께해주셔서 감사합니다.

​

숄토 더글라스 : 초대해주셔서 감사합니다.