앤스로픽 핵심 연구진 인터뷰 : 코딩 다음은 생물학, AI 발전의 다음 병목은 무엇인가

강화학습에서는 모델에게 어떤 문제를 풀게 한 다음, 실제로 정답을 맞혔는지 확인합니다. 지금 말씀하신 것도 바로 이런 방식에 해당합니다. ​ 조 론스데일 : 그런데 수학이나 컴퓨터과학에서는 답이 맞았는지 확인하기가 비교적 쉽지만, 연애나 시처럼 훨씬 주관적인 영역에서는 평가하기가 상당히 어렵지 않습니까? ​ 숄토 더글라스 : 그래서 수학과 컴퓨터과학에서 모델의 능력이 다른 분야보다 훨씬 빠르게 발전해온 것입니다. 다만 저희는 다른 종류의 문제들도 결국 이런 강화학습의 틀 안에 넣을 수 있다고 생각합니다. 생각보다 그렇게 어려운 문제는 아닙니다. ​ 니콜라스 마웰 : 수학과 컴퓨터과학이 먼저 발전한 데에는 분명 기술적인 이유가 있습니다. 하지만 사람과 조직의 특성으로 설명할 수 있는 부분도 꽤 크다고 생각합니다. ​ 어떤 사람들을 모아놓고 이 문제를 풀게 했는지를 생각해보면 됩니다. 대부분 수학이나 컴퓨터과학을 전공한 사람들을 모아놓고 지능을 만들라고 했습니다. 그러면 자연스럽게 자신들이 가장 잘 이해하고 가장 관심 있는 분야의 지능부터 만들게 됩니다. 실제로 그쪽이 훨씬 다루기 쉽기도 합니다. ​ 좋은 모델을 학습시키다 보면 모델이 실제로 어떤 답을 내놓고 어떤 방식으로 문제를 풀고 있는지 직접 읽어보는 데 놀라울 정도로 많은 시간을 씁니다. 그래야 모델의 능력이 어디까지 올라왔는지, 어떤 부분에 더 집중해야 하는지, 무엇을 개선해야 하는지를 판단할 수 있습니다. 그런데 자신이 전문가이고, 지금 모델 안에서 무슨 일이 벌어지고 있는지 이해할 수 있는 분야라면 이런 작업이 훨씬 쉬워집니다.

​ *코멘트 → 기술적으로는 강화학습의 성과가 보상 신호(Reward Signal)의 품질에 크게 좌우된다는 이야기입니다. 수학은 정답 검증, 코딩은 테스트 실행을 통해 모델의 시행착오를 자동으로 평가할 수 있지만, 현실 세계의 주관적인 과제에서는 보상 자체를 설계하기가 어렵습니다 ​ 조 론스데일 : 모델을 볼 때 일종의 사람처럼 생각하기도 합니까? ​ 니콜라스 마웰 : 저는 개인적으로는 그렇게 생각하지 않는 편입니다. 물론 모델을 어느 정도 사람처럼 받아들이는 사람들도 있을 것이고, 앤스로픽 안에도 그런 사람이 분명 있을 겁니다. ​ 조 론스데일 : 우리 뇌는 어느 정도 그렇게 작동하도록 만들어져 있지 않습니까. 눈앞에 있는 상대를 하나의 사람으로 인식하고, 그 사람이 어떤 감정을 느낄지 짐작하면서 대화를 이어가도록 되어 있습니다. 진화 과정에서 다른 지적 존재를 하나의 의도를 가진 존재로 받아들이도록 하는 여러 기능이 뇌에 생긴 셈입니다. 그렇다면 매일 이런 모델과 함께 일하다 보면, 어느 순간 모델을 사람처럼 생각하게 되는 것을 피하기가 꽤 어려울 것 같습니다. ​ 숄토 더글라스 : 이걸 단순한 도구로 볼 것인지, 아니면 하나의 주체로 볼 것인지는 꽤 중요한 논쟁 중 하나입니다. 저는 개인적으로는 '주체'라는 관점이 더 유용하다고 생각합니다. ​ 도구라면 기본적으로 사람이 계속 직접 조작해야 합니다. 그런데 이런 모델은 조금 다릅니다. 매우 지능적인 무언가를 세상에 풀어놓고, 사용자를 대신해서 스스로 행동하게 만드는 것에 가깝습니다. 그런 의미에서는 모델을 단순한 도구라기보다 하나의 주체, 혹은 에이전트로 보는 편이 훨씬 유용할 때가 많습니다.

​ 조 론스데일 : 지금도 충분히 AI에게 맡길 수 있는데 아직 본격적으로 활용하지 않고 있는 분야가 있습니까? 두 분이 앞으로 특히 기대하고 있거나 직접 연구하고 있는 영역 중에서, AI가 훨씬 더 많이 쓰이게 될 분야는 어떤 것들이 있을까요? ​ 숄토 더글라스 : 가장 큰 기회가 있는 분야는 생물학이라고 생각합니다. ​ 니콜라스 마웰 : 다만 질문이 두 가지로 나뉠 수 있을 것 같습니다. 모델이 이미 잘할 수 있는데도 아직 충분히 활용되지 않고 있는 능력이 무엇이냐는 질문과, 앞으로 모델이 발전해갈 방향 가운데 무엇을 가장 기대하느냐는 질문입니다. ​ 후자라면 저는 앞으로 6~24개월 동안 생물학을 가장 기대하고 있습니다. 이유는 더 자세히 이야기할 수 있겠지만, 소프트웨어 엔지니어링에서 그랬던 것처럼 AI가 실제로 큰 영향을 미치기 시작할 다음 분야라고 생각합니다. 단순히 생물학 분야에서 AI가 널리 쓰이게 된다는 의미는 아닙니다. 그로 인해 만들어질 긍정적인 사회적 효과가 매우 넓게 퍼질 것이고, 그 영향 자체도 상당히 클 것이라고 봅니다. ​ 조 론스데일 : 질병을 치료하고 사람들을 더 건강하게 만들고, 궁극적으로는 수명을 늘리는 일도 포함되겠군요. ​ 특히 노화와 관련된 후성유전학을 보면 정말 흥미로운 현상들이 많습니다. 약 20년 전부터 노벨상으로 이어진 여러 연구를 통해 이제 막 이해하기 시작한 것들이죠. 지금은 Bay Area에서도 제 지인들이 이런 분야의 회사를 많이 운영하고 있습니다. 이런 생물학적 현상을 어떻게 유도할 수 있는지, 신체의 일부를 어떻게 다시 젊게 만들 수 있는지를 알아내는 데 수십억 달러가 투자되고 있고요.

​ AI가 이런 발전을 가속하는 데 결정적인 역할을 하게 될 것이라고 보십니까? ​ 니콜라스 마웰 : AI는 생명과학 분야에서 우리 세대가 보게 될 가장 중요한 기술이 될 것이라고 생각합니다. 어쩌면 역사상 가장 중요한 기술일 수도 있습니다. 저는 그 점을 상당히 확신합니다. 오히려 제가 더 걱정하는 것은 AI 자체가 충분히 유용한 지적 도구가 될 수 있느냐가 아닙니다. 그 능력을 실제로 활용할 수 있을 만큼 물리적 인프라와 실험실 인프라가 충분히 갖춰져 있느냐는 점입니다. ​ 조 론스데일 : 그렇다면 지금부터라도 누군가는 AI가 활용할 수 있는 실험실 공간과 인프라를 훨씬 더 많이 만들어야 한다는 뜻입니까? ​ 니콜라스 마웰 : 그렇다고 생각합니다. 여기에는 몇 가지 중요한 문제가 있습니다. 하나는 정말 단순하게, 실험을 수행할 수 있는 공간이 충분하냐는 문제입니다. 그런데 미국의 실험실 인프라를 여러 기준으로 살펴보면, 일부 영역에서는 중국 같은 국가에 분명히 뒤처지고 있습니다. ​ 숄토 더글라스 : 그 부분이 AI를 활용한 생물학 연구의 발전 속도를 제한하는 병목이 될 가능성이 큽니다. ​ *코멘트 → <가설 생성 → 실험 → 결과 측정 → 다음 가설 생성>을 얼마나 빠르게 반복할 수 있느냐입니다. 코딩에는 컴파일러와 테스트가, 수학에는 정답 검증기가 있었다면 생물학에서는 Wet Lab이 사실상 Reward Function 역할을 합니다. 모델의 가설 생성 속도는 급격히 빨라질 수 있는데 실험 처리량은 물리적으로 제한되기 때문에, AI Biology의 스케일링 병목이 Compute에서 Lab Throughput으로 이동할 수 있다는 주장으로 볼 수 있습니다.

만약 그런 대규모 프로젝트가 오늘 시작되고, 1년 뒤에는 이미 본격적으로 진행되고 있을 것이라고 말씀하신다면 저는 AI의 발전 속도에 대한 제 예상도 상당히 앞당길 것 같습니다. ​ *코멘트 → 앞으로는 생물학 실험, 로봇 행동, 실제 업무처럼 모델이 아직 충분히 보지 못한 환경에서 새로운 데이터를 만들어야 합니다. RSI를 통해서 모델이 수백만 개의 가설을 생성할 수 있어도 이를 검증할 실험실의 처리량이 따라오지 못하면 학습 데이터 생산 속도가 병목이 됩니다. 결국 다음 단계의 AI 경쟁은 Compute를 얼마나 확보하느냐뿐 아니라 현실 세계에서 얼마나 빠르게 새로운 경험과 검증 가능한 데이터를 생산하느냐의 경쟁이 될 가능성이 크다고 보는 뷰입니다. ​ 조 론스데일 : 지금은 코딩이나 수학처럼 아주 구체적인 문제를 해결하는 데 필요한 데이터를 만드는 데 집중하고 있습니다. 그런데 언젠가는 사람들이 더 훌륭한 인격과 미덕을 갖추도록 돕거나, 정신건강을 개선하는 데 필요한 데이터도 만들 수 있지 않을까요? 물론 이런 문제들은 훨씬 더 복잡합니다. 하지만 앞으로 AI가 발전하면 이런 흥미로우면서도 굉장히 어려운 문제들까지 해결할 수 있게 될까요? ​ 니콜라스 마웰 : 솔직히 그런 문제는 인간이 풀었으면 좋겠습니다. ​ 조 론스데일 : 그래도 문제를 푸는 데 도구를 활용할 수는 있지 않을까요?

​ *코멘트 → 개척과 효율의 루프에 대해서는 7월 6일 주간전략보고에서 생각을 정리해드린 바 있습니다. ​ 이를 가져오자면: ​ 프론티어 AI Labs의 개척 : '새로운 작업이 가능해진다' AI 모델 발전은 계속해서 개척과 효율화의 루프를 그려왔습니다. 프론티어 AI Labs가 새로운 모델을 출시하면, 처음에는 이전 세대 모델로는 잘 풀리지 않던 새로운 작업 영역이 열립니다. 더 긴 추론, 더 복잡한 코딩, 더 긴 컨텍스트, 더 높은 신뢰도의 에이전트 작업, 멀티모달 활용처럼 사용 사례의 난이도 자체가 올라갑니다. ​ 이 시기에는 모델 성능의 절대값이 중요합니다. 따라서 폐쇄소스 프론티어 모델의 가치가 크게 부각됩니다. 사용자는 단순히 더 저렴한 모델을 찾는 것이 아니라, 이전에는 불가능했거나 신뢰도가 낮아서 맡기기 어려웠던 작업을 처리할 수 있는 모델을 찾습니다. 이 구간에서는 가성비보다 '가능한 작업의 범위'가 더 중요합니다. ​ 오픈소스 AI 모델의 효율화 : '동등한 작업을 더 저렴하게' 하지만 시간이 지나면 효율화 사이클이 시작됩니다. 어떤 작업이 가능한지, 어떤 프롬프트 구조가 잘 작동하는지, 어떤 툴을 붙이면 되는지, 어떤 평가셋으로 품질을 검증해야 하는지가 점차 정리되면 기업들은 open-weights 모델에 각종 스캐폴딩을 붙여 프론티어 모델로 가능했던 output 퀄리티에 근접하려고 시도합니다. ​ 실제로 문제 정의가 명확하고 반복 가능한 업무에서는 이런 방식이 꽤 잘 작동합니다. 고객 응대, 문서 분류, 정형화된 코드 보조, 내부 검색, 요약, 반복적인 백오피스 업무처럼 작업 범위가 분명한 영역에서는 open-weights 모델과 엔지니어링 최적화의 조합이 충분히 경쟁력을 가질 수 있습니다.

​ 비용의 위치가 바뀐다 중요한 점은 이것이 '공짜로 프론티어 모델을 대체한다'는 의미가 아니라는 것입니다. 모델 API 사용료는 줄어들 수 있지만 반대로 다른 비용이 늘어납니다. 스캐폴딩을 위한 도구, 평가 시스템, 데이터 파이프라인, 파인튜닝, 모니터링, 보안, 운영 자동화, 유지보수에 시간과 비용이 들어갑니다. 결국 비용이 API 사용료에서 → SWE 엔지니어 인건비/데이터/인프라로 이동하는 것입니다. 겉으로는 모델 비용을 절감하는 것처럼 보이지만 실제로는 이것도 꽤 많은 내부 리소스와 시스템 구축 역량을 필요로 합니다. 따라서 open-weights 효율화는 폐쇄소스 모델의 완전한 대체라기보다는 일부 반복 업무에서 비용 구조를 바꾸는 과정에 가깝습니다. ​ 시간이 지나면 프론티어는 새로운 시장을 연다 문제는 이 효율화가 어느 정도 완성될 즈음이면 프론티어 AI Labs가 다시 새로운 모델을 내놓습니다. 그렇게 나온 새 모델은 기존 작업을 더 싸고 빠르게 처리하는 데서 끝나지 않습니다. 이전에는 경제성이 없거나 신뢰도가 부족해서 쓰기 어려웠던 더 높은 부가가치의 사용 사례를 새롭게 열어줍니다. ​ 그러면 사용자들은 다시 그 새로운 능력에 맞춰 사용량을 늘립니다. 기업들은 더 복잡한 업무를 AI에 맡기기 시작합니다. 단순 문서 요약 → 코드 작성으로 → 장기 에이전트 작업으로 → 단일 작업 자동화에서 복수 시스템을 넘나드는 업무 자동화로 사용 사례가 확장됩니다. 이때 AI 수요는 줄어드는 것이 아니라 더 높은 난이도의 작업으로 이동합니다.

​ 간단하게 보자면, input $1~$2를 가져다가 $10의 output을 뽑아내는 경쟁에서 → input $5~$10를 가져다가 output $50를 뽑아내는 경쟁으로 → input $10~$20을 가져다가 output $100를 뽑아내는 경쟁으로 향합니다. AI 모델을 가지고 할 수 있는 작업당 창출하는 부가가치의 TAM이 성장하는 속도가 효율화시키는 속도보다 더 빠르기에 AI Labs들의 총 시장규모가 빠르게 커지고, 폐쇄소스와 오픈소스 Labs들의 ARR이 동시에 빠르게 증가하며, 컴퓨트 부족이 강화되고 있습니다. ​ 효율화 공식은 새로운 문제에서 한계를 맞는다 이전 효율화 사이클에서 성공했던 로직, 'open-weights 모델에 충분한 스캐폴딩을 붙이면 프론티어 모델과 비슷하게 만들 수 있다'는 접근은 새로운 문제 분포에서는 다시 한계에 부딪힙니다. 과거의 작업은 따라잡을 수 있지만 프론티어 모델이 새롭게 연 작업 영역에서는 다시 장기 작업 수행 능력의 격차가 벌어집니다. ​ 따라서 오픈소스 모델은 과거에 개척된 작업을 효율화하는 데 강점이 있고, 프론티어 폐쇄소스 모델은 아직 표준화되지 않은 새로운 작업 영역을 여는 데 강점이 있습니다. 두 영역은 경쟁하면서도 역할이 다릅니다. 한쪽이 다른 한쪽을 완전히 대체하는 구조라기보다 시간차를 두고 서로 다른 층위의 수요를 담당하는 구조입니다. ​ 결국 어느 수준 이상을 넘기지 못하는 이유는 결국 오픈소스 모델들이 부족한 FLOPS를 보충하기 위해, 프론티어 AI Labs의 모델에서 지식을 distillation해서 오픈소스 모델을 만드는 데 사용하기 때문입니다.

이번에도 사람들은 GLM-5.2, Kimi-K2.7을 보며 Mythos Preview 버전부터 상당량 distillation하여 모델을 훈련시켰을 것으로 추정하고 있습니다. GPT가 프론티어일 때는 GPT를, Gemini가 프론티어일 때는 Gemini를, Claude가 프론티어일 때는 Claude에서 데이터를 뽑아내고 있습니다. ​ 개척 → 효율화 → 재개척의 루프 정리하자면, AI 산업은 프론티어 모델과 오픈 모델 중 하나가 일방적으로 승리하는 구조가 아닙니다. 프론티어 모델이 새로운 사용 사례를 개척하고, 이후 open-weights 생태계와 엔지니어링 최적화가 그 일부를 효율화하며, 다시 프론티어 모델이 더 높은 난이도의 사용 사례를 여는 반복 구조에 가깝습니다. AI 발전이 계속해서 개척 → 효율화 → 재개척의 루프를 그리는 이유입니다. ​ 따라서 오픈소스 모델의 성능 개선을 폐쇄소스 프론티어 모델 수요의 구조적 붕괴로 해석하기보다 AI 사용 사례가 한 단계 표준화되고 있다는 신호로 보는 편이 더 적절하다고 생각합니다. 그리고 프론티어 모델이 다시 더 어려운 작업 영역을 열 때마다 전체 AI 사용량과 컴퓨팅 수요는 한 번 더 확장될 가능성이 높습니다. ​ 물론 언젠가 이 리듬이 통하지 않을 때가 생길 수도 있겠습니다만, 2023년 AI Boom 이후 매번 그래왔기에 이것을 상수로 보고 접근하는 것이 더 합리적이라 생각합니다. 그래도 매번 오픈소스가 폐쇄소스를 잡아먹을 것이란 오해가 반복되긴 합니다. ​ 조 론스데일 : 몇 년 전 앤스로픽을 처음 생각했을 때만 해도 저는 이 부분이 직관적으로 잘 이해되지 않았습니다.

핵심은 정상적인 생물학 지식까지 막는 것이 아니라, 실제로 무기를 만드는 데 도움이 되는 식의 위험한 사용만 막는 것이라고 생각합니다. ​ 숄토 더글라스 : 그런 질문은 당연히 할 수 있어야 합니다. 다만 저희가 하려는 것은 누구도 모델을 이용해 실제 무기를 만들 수 없도록, 그 부분을 확실하게 막는 체계를 마련하는 것입니다. ​ 니콜라스 마웰 : 생물학이나 사이버 분야가 특히 어려운 이유는, 여기서 필요한 능력들이 본질적으로 이중 용도이기 때문입니다. 같은 능력이 좋은 목적에도 쓰일 수 있고, 나쁜 목적에도 쓰일 수 있다는 뜻입니다. 사이버 분야가 가장 이해하기 쉬운 예라고 생각합니다. ​ 예를 들어 Claude에게 "여기 코드베이스가 있으니 취약점을 전부 찾아주세요"라고 요청한다고 해보겠습니다. 이 요청을 한 사람이 자신의 시스템을 더 안전하게 만들려는 코드베이스의 소유자일 수도 있습니다. 반대로 침입할 방법을 찾고 있는 공격자일 수도 있죠. ​ 모델 입장에서는 똑같은 작업이지만, 사용 목적은 완전히 다를 수 있습니다. 사이버 분야의 안전을 관리하기 어려운 근본적인 이유가 여기에 있습니다. 생물학 역시 이런 이중 용도의 특성을 많이 가지고 있기 때문에 비슷한 문제가 생깁니다. ​ 조 론스데일 : 예를 들어 세포 안의 특정 대상을 정밀하게 공격하는 기술이 있다고 해보죠. 99.9%의 경우에는 암세포를 없애기 위해 쓰이겠지만, 아주 작은 가능성으로는 누군가 끔찍한 목적에 활용할 수도 있다는 말씀이군요? ​ 니콜라스 마웰 : 그렇습니다. 그래서 저희는 선의로 사용하는 사람들은 이 기술의 이점을 충분히 활용할 수 있게 하면서도, 악의적인 사용은 막을 수 있는 여러 방법을 연구하고 있습니다.

다만 기본 원칙은 분명합니다. 악의적인 사용자가 이 기술을 이용해 실제로 해를 끼치는 것을 막을 수 있기 전에는, 그런 능력을 세상에 내놓아서는 안 된다고 생각합니다. ​ 조 론스데일 : 실제로 그런 사람들이 있습니다. 물론 앤스로픽의 모델을 사용한다는 이야기는 아닙니다. ​ 예를 들어 아프리카의 테러 조직들이 중국의 공개 모델을 이용해서, 예전에는 잘 알지 못했던 폭발물 제작법 같은 것을 더 쉽게 익히고 있을 가능성은 충분히 있다고 생각합니다. 원래는 그런 분야에 능숙하지 않았더라도, 모델이 그 격차를 상당 부분 메워줄 만큼 똑똑해졌다는 것이죠. ​ 분명히 매우 위험한 사용 사례가 존재합니다. 다만 저는 전체적으로 보면 지능이 더 풍부해질수록, 그런 위험한 활용 방식이 어떻게 가능한지도 더 많은 사람이 이해하게 되고 이를 막기 위한 대응 능력도 함께 커질 수 있다고 봅니다. 결국 이 두 측면을 함께 놓고 따져봐야 하는 문제라고 생각합니다. ​ 숄토 더글라스 : 그래서 여기서 중요한 건 각 분야가 공격자에게 더 유리한지, 아니면 방어자에게 더 유리한지를 보는 것입니다. 현재로서는 사이버와 생물학 모두 공격 쪽이 더 유리한 분야라고 생각합니다. 하지만 앞으로 2년 정도 지나면 사이버 분야는 오히려 방어 쪽이 더 유리한 구조로 바뀔 가능성이 있다고 봅니다. ​ 조 론스데일 : 모두가 AI의 지능을 활용해 자기 시스템을 직접 해킹해보고 방어를 구축할 수 있다면 그렇겠죠. ​ 숄토 더글라스 : 맞습니다. AI를 이용하면 공격이 들어오기 전에 먼저 자기 시스템을 계속 테스트해볼 수 있습니다.

​ 조 론스데일 : 제가 아는 기술 업계 리더들 중에는 훨씬 더 회의적으로 보는 사람들도 있습니다. 그들의 주장을 그대로 옮기면 대략 이런 이야기입니다. ​ "다리오가 사람들에게 위험을 크게 강조해서 더 많은 규제를 만들고, 업계의 발전 속도를 늦추려는 것 아니냐. 그리고 결국 그 규칙을 만드는 과정에서 자신이 가장 큰 영향력을 가진 사람 중 하나가 되려는 것 아니냐."이런 비판을 하는 사람들에게는 어떻게 답하시겠습니까? ​ 숄토 더글라스 : 지금까지 저희는 다른 누구보다도 스스로의 개발 속도를 더 많이 늦춰왔다고 생각합니다. ​ 실제로 데미스 허사비스가 제안한 논의를 보면 알 수 있습니다. 오픈AI, 딥마인드, 앤스로픽처럼 비공개 모델을 개발하는 회사들이 서로 협력해서, 모델을 출시하기 전에 반드시 충족해야 할 공통의 안전 기준을 만들자는 제안입니다. 저희는 스스로 중요하다고 생각하는 원칙을 지키기 위해, 필요하다면 저희 자신의 개발 속도까지 늦추는 방안을 실제로 논의하고 있습니다. 그리고 이 기회에 오픈소스에 대한 저희의 전반적인 입장도 분명히 설명해두는 게 좋을 것 같습니다. ​ 조 론스데일 : 어떤 입장인가요? ​ 숄토 더글라스 : 저희가 실제로 어떤 입장인지 말씀드리겠습니다. 적어도 개인적으로 저는 오픈소스를 굉장히 지지합니다. 오픈소스가 세상에 존재하는 것은 정말 좋은 일이라고 생각합니다. 저 역시 오픈소스 모델을 통해 머신러닝을 배웠습니다. ​ 다만 동시에 분명한 위험도 있고, 앞으로 모델의 능력이 더 강해질수록 그 위험 역시 커질 것이라고 봅니다.

그래서 저희가 중요하게 생각하는 것은 사회 전체가 어느 수준까지는 안심하고 공개할 수 있는지에 대한 기준을 정하는 것입니다. 예를 들어 어떤 모델이 사이버 공격에 활용될 수 있다면, 어느 정도의 능력까지는 공개해도 괜찮다고 볼 것인지 기준이 필요합니다. ​ 그리고 그 기준은 비공개 모델이든 오픈소스 모델이든 동일하게 적용돼야 한다고 생각합니다. 그 안전 기준을 충족한다면, 그 이후에는 각자가 원하는 방식으로 개발하고 배포할 수 있어야 합니다. ​ 조 론스데일 : 그런데 중국이 어차피 누구나 사용할 수 있는 강력한 모델들을 계속 공개한다면, 이런 기준을 만드는 것이 실제로 얼마나 의미가 있을까요? 미국만 지나치게 규제해서 스스로 발전 속도를 늦추고, 중국은 같은 제약을 받지 않아서 결국 더 앞서가거나 오히려 위험이 커지는 상황도 생각할 수 있습니다. 그런 가능성은 어느 정도로 보고 계십니까? 이 문제는 어떻게 접근해야 한다고 생각하십니까? ​ 숄토 더글라스 : 이상적으로는 중국과도 이런 문제에 대해 실제로 협력할 수 있어야 한다고 생각합니다. 중국 역시 자국이 사이버 공격을 받는 상황을 원하지는 않을 테니까요. ​ 조 론스데일 : 다만 중국은 미국이 사이버 공격을 받는 것은 원하는 것 같습니다. 제가 보기에는 그렇습니다. ​ 숄토 더글라스 : 그럴 수도 있죠. *웃음* 그래도 자기들이 사이버 공격을 받는 건 원하지 않을 겁니다. ​ 이상적으로는 이런 문제에서 중국과도 협력할 수 있어야 합니다. 다만 현실적으로는 쉽지 않은 일이고, 앞으로 몇 년 동안 가장 어려운 문제 중 하나가 될 것이라고 생각합니다.

실제로 그렇게 될지는 계속 지켜봐야 하고, 이런 시나리오가 현실이 되려면 여러 가지 조건이 맞아떨어져야 합니다. ​ 조 론스데일 : 이제 생산성 증가율이 본격적으로 가속하기 시작할 수도 있겠다는 생각이 듭니다. 앞으로 몇 년 안에는 실제로 그런 변화가 나타나야 할 것 같고, 경제 통계에서도 분명하게 확인되기 시작할 것 같습니다. ​ 신임 연준 의장인 케빈 워시도 AGI의 등장까지 믿고 있는지는 모르겠지만, AI가 이끌어낼 생산성 향상에 대해서는 굉장히 낙관적입니다. 저희와도 친분이 있는 아주 똑똑한 분이죠. ​ 앞으로 이런 생산성 향상이 경제 곳곳에서 점점 더 뚜렷하게 나타날 것 같습니다. 그런데 거기서 끝나는 게 아니라 생산성이 높아지는 속도 자체가 계속 빨라질 수도 있다는 겁니다. 이렇게 말하면서도 믿기 어려울 정도입니다. ​ 숄토 더글라스 : 최근에 굉장히 흥미로운 차트 하나를 봤습니다. 필리핀의 고용 추이를 보여주는 차트였는데, 실제로 고용이 늘어나고 있더군요. ​ 조 론스데일 : 저는 그게 놀라웠습니다. 필리핀의 BPO가 큰 타격을 받을 거라고 생각했거든요. BPO는 비즈니스 프로세스 아웃소싱을 뜻합니다. 단순한 콜센터 업무 같은 것을 하는데 그런데도 여전히 성장하고 있습니다. ​ 숄토 더글라스 : 그런데도 고용은 계속 늘어나고 있습니다. 실제로 소프트웨어 엔지니어링 분야에서도 고용이 증가했습니다. 저는 그 이유 중 상당 부분이 AI 덕분에 사람들의 생산성이 갑자기 이전보다 훨씬 높아졌기 때문이라고 생각합니다.

​ 숄토 더글라스 : 저희 예상보다 훨씬 더 빨라야 한다고요? *웃음* 사실 저희는 이미 굉장히 빠른 발전을 예상하고 있습니다. 그보다 더 빠른 시나리오를 생각해본다면, 우주에 데이터센터를 구축하는 일이 언제 현실화되느냐가 중요한 변수가 될 것 같습니다. 이건 누구에게 물어보느냐에 따라 예상하는 시점이 굉장히 크게 달라지는 문제입니다. ​ 조 론스데일 : 그게 아주 중요한 부분이겠네요. 우주에서는 할 수 있는 일이 훨씬 많으니까요. ​ 숄토 더글라스 : 일단 우주에 데이터센터를 구축할 수 있게 되면 컴퓨팅 인프라를 확장하는 속도는 훨씬 더 빨라질 겁니다. AI의 발전을 더 가속하는 데 가장 필요한 것이 바로 컴퓨팅 자원이기 때문입니다. 다만 실제로 얼마나 빠르게 규모가 커질지는 아직 잘 모르겠습니다. 얼마나 많이… 아니, 이렇게 말씀드리는 게 좋겠네요. ​ 저는 2028년이 됐을 때 일반 가정에 휴머노이드 로봇이 얼마나 보급되어 있을지가 궁금합니다. 그때쯤이면 초기 도입 사례가 꽤 많아져 있을 가능성이 높다고 생각합니다. 아마 수만 대의 로봇이 가정에서 빨래를 하거나 기본적인 청소를 하는 등 집안일을 돕고 있을 겁니다. ​ 그런데 실제 보급 속도는 이보다 훨씬 빠를 수도 있습니다. 일단 로봇이 본격적으로 보급되기 시작하면 기술 발전이 다시 더 빠른 발전을 이끌면서 그 효과가 계속 누적될 수 있기 때문입니다.

​ *코멘트 → 숄토가 보는 AI 발전의 상단 시나리오는 결국 물리적 인프라가 얼마나 빨리 풀리느냐에 달려 있습니다. 우주 데이터센터가 가능해지면 전력과 부지 제약을 크게 줄이면서 Compute 증설 속도를 높일 수 있고, 휴머노이드 로봇이 본격적으로 보급되면 AI가 현실 세계의 노동까지 직접 수행하기 시작합니다. 핵심은 AI가 소프트웨어 안에서만 발전하는 것이 아니라, Compute와 Robotics가 동시에 스케일될 때 발전 속도 자체가 한 단계 더 빨라질 수 있다는 이야기입니다. ​ 니콜라스 마웰 : 다른 요인들도 있습니다. 저는 AI가 앞으로 해결해야 할 과제 중 상당수가 결국 데이터 문제와 연결되어 있다고 생각합니다. AI의 발전 속도를 제한하는 가장 큰 요인 중 하나는 우리가 중요하게 생각하는 분야에서 학습에 필요한 데이터를 얼마나 빠르게 확보할 수 있느냐는 것입니다. ​ 사실 이 부분도 이미 제 예상보다 훨씬 빠르게 발전하고 있습니다. 앞서 말씀드렸듯이 앤스로픽이나 오픈AI 같은 연구소들이 막대한 매출을 올리기 시작하면서, 제가 예상했던 것보다 훨씬 많은 자본을 데이터 확보에 투입할 수 있게 됐기 때문입니다. ​ 하지만 결국에는 인간이 새로운 학습 데이터를 만들어낼 수 있는 속도가 AI 발전의 한계로 작용할 것이라고 생각합니다. 예를 들어 생물학 분야를 생각해보죠. AI 모델을 학습시키는 데 필요한 생물학 데이터를 대규모로 생산하기 위해 새로운 실험실을 대거 건설하는 계획을 추진한다고 해보겠습니다.

만약 그런 대규모 프로젝트가 오늘 시작되고, 1년 뒤에는 이미 본격적으로 진행되고 있을 것이라고 말씀하신다면 저는 AI의 발전 속도에 대한 제 예상도 상당히 앞당길 것 같습니다. ​ *코멘트 → 앞으로는 생물학 실험, 로봇 행동, 실제 업무처럼 모델이 아직 충분히 보지 못한 환경에서 새로운 데이터를 만들어야 합니다. RSI를 통해서 모델이 수백만 개의 가설을 생성할 수 있어도 이를 검증할 실험실의 처리량이 따라오지 못하면 학습 데이터 생산 속도가 병목이 됩니다. 결국 다음 단계의 AI 경쟁은 Compute를 얼마나 확보하느냐뿐 아니라 현실 세계에서 얼마나 빠르게 새로운 경험과 검증 가능한 데이터를 생산하느냐의 경쟁이 될 가능성이 크다고 보는 뷰입니다. ​ 조 론스데일 : 지금은 코딩이나 수학처럼 아주 구체적인 문제를 해결하는 데 필요한 데이터를 만드는 데 집중하고 있습니다. 그런데 언젠가는 사람들이 더 훌륭한 인격과 미덕을 갖추도록 돕거나, 정신건강을 개선하는 데 필요한 데이터도 만들 수 있지 않을까요? 물론 이런 문제들은 훨씬 더 복잡합니다. 하지만 앞으로 AI가 발전하면 이런 흥미로우면서도 굉장히 어려운 문제들까지 해결할 수 있게 될까요? ​ 니콜라스 마웰 : 솔직히 그런 문제는 인간이 풀었으면 좋겠습니다. ​ 조 론스데일 : 그래도 문제를 푸는 데 도구를 활용할 수는 있지 않을까요?

니콜라스 마웰 : 앞으로는 몇 가지 서로 다른 시나리오가 가능하다고 생각합니다. 그리고 앤스로픽은 우리가 세상에 가져올 수 있는 위험에 대해서도 솔직하게 이야기할 책임이 있습니다. ​ 저희가 실제로 상당히 우려하는 문제 중 하나가 실업입니다. 하지만 한편으로는 이 기술이 사회 전체로 확산되는 데 꽤 오랜 시간이 걸릴 수도 있습니다. 10년이나 20년에 걸쳐 AI를 여러 산업과 영역에 적용하는 과정에서 엄청나게 많은 기회가 생기고, 사람들이 그 일을 자신의 커리어로 삼게 되는 시나리오도 충분히 가능합니다. ​ 지금 대학에 다니는 제 남동생도 바로 이런 고민을 하고 있습니다. 제가 동생을 비롯한 몇몇 사람들에게 해준 이야기는, 만약 그런 시나리오가 펼쳐진다면 앞으로 10년은 여러 면에서 '제너럴리스트의 시대'가 될 것이라는 겁니다. 지난 20년, 어쩌면 50년 동안 좋은 커리어를 만드는 가장 일반적인 방법은 시장에서 높은 가치를 인정받는 특정한 기술 하나를 깊게 익히는 것이었습니다. 자신은 그 분야를 잘하고, 나머지는 다른 사람들의 전문성에 의존하는 방식이었죠. ​ 그런데 앞으로는 누구나 사실상 직원 1,000명짜리 회사 전체의 역량을 등에 업고 일할 수 있게 됩니다. 그렇게 되면 가장 중요한 능력은 무엇일까요? 어떤 문제를 풀어야 하는지를 가장 잘 이해하는 것입니다. 사업적으로 어떤 문제가 중요한지, 혹은 사회에 기여한다는 관점에서 자신의 공동체를 더 나아지게 만들려면 무엇을 해야 하는지를 아는 사람이 중요해집니다. ​ 그런 사람들은 실제로 변화를 만들어내는 데 필요한 도구를 거의 모두 갖게 될 겁니다.

그래서 앞으로는 무엇을 할 수 있느냐보다, 어떤 문제에 집중해야 하는지를 판단하고 선택하는 능력이 훨씬 중요해질 것이라 봅니다. ​ 조 론스데일 : 결국 중요한 질문은 이런 것 같습니다. 어떤 문제를 해결해야 하는가, 그리고 내가 속한 공동체를 어떻게 더 나은 곳으로 만들 수 있는가 하는 것이죠. 유대교 신앙의 기본적인 바탕에도 이런 생각이 있습니다. 일주일 중 6일은 세상을 조금씩 고쳐나간다는 마음으로 일하고, 안식일에는 쉬는 겁니다. 주요 종교 가운데 상당수에도 비슷한 가르침이 있다고 생각합니다. ​ 제가 낙관적인 이유도 여기에 있습니다. 우리 주변의 사람들과 공동체 안에는 언제나 돕고, 바로잡고, 더 나아지게 만들 일이 있을 겁니다. 우리가 정말로 유토피아에 도달한다고 믿지 않는 이상, 사람들이 해야 할 일은 계속 남아 있을 겁니다. ​ 저는 그런 의미에서 꽤 낙관적으로 봅니다. ​ 니콜라스 마웰 : 전적으로 동의합니다. ​ 조 론스데일 : 그렇죠. 세상에는 여전히 해야 할 일이 많습니다. 제 생각에 그 종교가 근본적으로 말하는 것도, 메시아가 오기 전까지 이 세상이 유토피아가 되지는 않는다는 것입니다. 그러니 우리는 계속 잘못된 것을 고쳐나가야 합니다. 저는 오히려 그것이 긍정적인 사고방식이라고 봅니다. ​ 두 분이 기본적으로 낙관적인 분들이라는 것도 알고 있고, AI가 가져올 긍정적인 가능성도 많다고 생각합니다. 그래도 몇 가지 우려는 짚고 넘어가고 싶습니다. 많은 사람들이 실제로 궁금해하는 부분이기 때문입니다. ​ 샌프란시스코나 뉴욕에 가보면, 심지어 텍사스 오스틴에서도 정말 많은 긍정적인 변화가 일어나고 있다는 걸 느낄 수 있습니다.

다만 여기서 흥미로운 질문은 사람과 AI가 함께 일하면서 생산성이 높아지고, 그 결과 고용까지 늘어나는 현상이 과연 얼마나 오래 지속될 수 있느냐는 것입니다. ​ 조 론스데일 : 해야 할 일이 훨씬 더 많으니까요. 할 일이 훨씬 많습니다. 이런 기술을 긍정적인 방향으로 활용하고 있는 거죠. ​ 숄토 더글라스 : 적어도 단기적으로는 그래 보입니다. 하지만 모든 것이 괜찮아질 것이라고 너무 확신해서는 안 된다고 생각합니다. ​ 니콜라스 마웰 : 지금은 숄토가 말한 것처럼 어떤 면에서는 굉장히 좋은 시기일 수도 있습니다. 아직은 AI를 제대로 활용하려면 사람의 역할이 매우 중요하기 때문입니다. AI가 직원 한 사람 한 사람의 생산성과 가치를 크게 높여주고 있습니다. 그러다 보니 기업 입장에서는 오히려 직원을 더 많이 고용하고 싶어지는 겁니다. ​ 하지만 저희는 어느 시점이 되면 이런 상황이 달라질 것이라고 생각합니다. 지금은 AI의 능력을 최대한 활용하려면 반드시 사람이 함께 일해야 하지만, 앞으로는 사람의 개입 없이도 AI가 그 능력을 온전히 발휘할 수 있게 될 겁니다. 저희가 정말 심각하게 우려하는 것은 바로 그 전환점 이후에 어떤 일이 벌어질 것이냐는 문제입니다. ​ 조 론스데일 : 체스와 비슷하네요. 30년 동안은 인간과 기계가 한 팀을 이뤘을 때 가장 뛰어난 실력을 보였는데, 이제는 기계가 압도하고 있으니까요. ​ 니콜라스 마웰 : 저희는 AI에서는 그 기간이 훨씬 짧을 것이라고 생각합니다. 지난 3~5년 사이에 제 생각을 크게 바꾼 일이 하나 있습니다.

처음 AI의 발전 속도를 생각했을 때도 언젠가는 지금과 같은 수준에 도달할 것이라고 믿었습니다. 심지어 제가 지금 예상하는 1년 뒤의 수준까지도 충분히 도달할 수 있다고 생각했습니다. 다만 거기까지 가는 데 훨씬 오랜 시간이 걸릴 것이라고 봤습니다. ​ 가장 큰 이유는 그만큼 모델을 발전시키는 데 필요한 데이터를 대규모로 확보하려면 엄청난 시간과 비용이 들어갈 것이라고 생각했기 때문입니다. 그런데 당시에도 AI의 발전 가능성을 상당히 높게 평가하고 있었던 제 예상마저 뛰어넘는 일이 벌어졌습니다. 앤스로픽과 오픈AI의 매출과 사업 규모가 믿기 어려울 정도로 빠르게 성장한 겁니다. ​ 그 결과 AI를 개발하는 기업들이 막대한 자본을 투입해서, 원래는 해결하는 데 오랜 시간이 걸릴 것이라고 생각했던 여러 병목을 훨씬 빠르게 돌파할 수 있게 됐습니다. 컴퓨팅 인프라 확충이 좋은 예입니다. 불과 5년 전만 해도 AI 인프라에 연간 $1T를 투자한다는 것은 대부분의 사람들이 상상조차 하지 못했던 일이었습니다. ​ 조 론스데일 : 1년 전에도 상상하기 어려웠습니다. ​ 니콜라스 마웰 : 맞습니다. 사실 1년 전만 해도 상상하기 어려운 일이었죠. *웃음* 지금은 서로 맞물리면 엄청난 파급력을 만들어낼 여러 변화가 동시에 일어나고 있는 시기라고 생각합니다. 좋은 방향으로 작용하는 것도 있고, 나쁜 방향으로 작용하는 것도 있겠죠. ​ 예를 들어 요즘은 컴퓨팅 인프라를 우주에 구축한다는 이야기까지 나오고 있습니다. 흥미로운 건 AI가 본격적으로 발전하는 시점과 스페이스X가 그동안 쌓아온 역량을 본격적으로 발휘하기 시작하는 시점이 거의 맞물렸다는 겁니다.