앤트로픽이 증류 조사 결과를 공개했습니다. 중국 쪽에서 베껴 가려다 거꾸로 넘기고 온 것이 무엇이었는지 드러났습니다 [Z1 뉴스 - 2부]

>> 어 1억 6천만이에요. 어마어마하게 관심을 끄은 거야. 왜냐면은 이게 딱 혹하잖아. 앤트로픽에서 일하도 내가 엔트로피에 회의할 때 야 쟤네들 저기 AI로 사람 다 죽인다고 >> 걱정하면서도 저러고 있다 아유 진짜 막 아유 진짜 막이 이런 느낌이잖아 딱 그런 느낌 [콧방귀] 젠슨이 이제 이야기한 거는 뭐 뭐 내부 고발 할 수 있고 뭐 그런데 >> 음 >> 아 뭐 더 저렇게까지 하냐 제가 뭘 한다고 저렇게까지 얘기하냐 이런 얘기 >> 뭐 16주인가 밖에 일을 안 했다는 이야기도 있더라고요.음 음. 그러니까 뭐 잘 모르는 애가 저런다 이런 느낌인 거죠. 아니, 그 이런 거예요. 봐봐요. 그 자동차를 처음 만들었을 때도 비슷한 얘기가 있지 않았을까요? 자동차가 어, 자동차 이거 나왔는데 기존에 이제 마차였어. 마차. 마차하면 막 시도가 한 8km 뭐 이렇게 가겠지. 10km. 근데 자동차가 나왔는데 막 50km까지도 갈 수 있습니다. 그래 그러면은 야, 그렇게 하서 사람 죽는 거 아니야? 이렇게 했지. >> 대박이. 야, 그럼 그러다 사람 죽어. 이럴 거 아니에요. 그러면이 위험한 거를 계속 개발하는게 맞아? >> 그만해야 되는 거 아니야? 이야기 그때도 나갔다는 거죠. >> 그랬겠네요. 진짜. >> 어. 왜냐면은 그때 이제 마차도 다니고 사람들도 걸어다니는데 그 안에서 그냥 자동차가 막 뭐하고 생전 보지도 못한 속도로 막 돌아다닌다고 생각해 봐. 그럼 무서워서 아 안 돼 안 돼. >> 어 그랬을 거 아니에요. 그래서 이제 영국이란 나라에서 만든 법이 그때 있었죠. 굉장히 유명한 법인데 그게 뭐냐면 빨간 깃발법이라는 걸 만들었습니다. >> 어 >> 자동차 앞에 사람을 세워하는 거예요. >> 그래서 그 사람이 빨간 깃발을 들고 자동차 앞에 걸어가야 되는 거야. >> 어 >> 뭐 하는 짓이지? [웃음] 뭐 하는 짓이야? 어 자동차를 빨간 깃발든 사람보다 늦게 가게 만들 거면 뭐 하러 만들어? 장난해? 지금 [웃음] 이런 생각이 들지 않아요? 아니 위험하지. 50km로 달릴 수 있으면 위험하지. 야 그러면은 아 생각을 해 봐라 좀 이런 생각 들지 않아요? 그러니까 자동차를 영국에서 먼저 만들면 뭐해? 자동차가 다닐 수 있는 길을 안 만들면 그러면 이제 영국에 망하는 거예요. 그리고 나서이 자동차 산업이 꽃이 피운 곳은 미국이었던 거야. 왜? 자동차가 다니는 길 따로 만드면 되잖아요.

그런 거지. 자동차가 다니는 길을 만들면 거기 사람 안 다니면 되는 거잖아. >> 아. 네. 거기 사람 안 다니고 거기에 이제 가드라인 치고 차가 못 다니게 하고 그럼 그래도 그러면 사람이 안 죽어요. 사람이 죽죠. 그래도 >> 근데도 좀 더 안전하고 그때 당시보다도 훨씬 더 빠른 속도의 자동차가 나왔음에도 불구하고 지금 문제가 있긴 있지만 아주 심각하진 않잖아요. 그런 이야기라고 보시면 되죠. 어쨌든 방향성은 이쪽이지만 그 방향성을 제대로 잘 올바르게 가기 위해서는 안전 장치들이 여러 가지가 필요하다. 그래서 이제 다리오 아모데이가 얘기한 건 뭐냐면 자동차를 더 빠르고 더 안전한 자동차를 만들기 위한 연구 개발을 멈추겠다는 얘기가 아니고 >> 우리는 지금 프론티어 모델에서 이렇게 해 가지고 개발하는 건 계속 할 건데이 개발하는 거를 밖으로 사용할 때 혹시 자동차가 막 다니면서 사람 막 죽여 버리고 그러면 안 되니까 가드레이를 만들어 놓자. AI는 이쪽길에서만 움직일 수 있게 만들어 놓는 거를 우리가 만들고 있을 텐데 근데 이거를 아직 지금 우리가 못 만들어 가지고 막 자 어 AI가 어디서 어떻게 나올지 모르니까 그거를 밖으로 꺼낼 때까지는 우리가 좀 속도 조절을 하는 거다. 이렇게 얘기를 한 거죠. 언 어떤 걸 한다는 얘기냐면 우리가 이걸 개발 안 하겠다는 얘기가 아니고 가드레이를 어떻게 만들지를 좀 고민을 더 많이 하겠다. 이런 이야기라고 보시면 되죠. 그 이게 좀 개념을 정확하게 이해를 하시면은 이제 이제 뭔 말인지 알겠죠? 어, 딱 그 말입니다. >> 근데 이게 왜 지금이 시점에서 나온 거예요? 그러면 왜 시작된 거예요? 근데 아마 이제 제 생각에도 지금 이제 아스트라도 그렇고 어 앤트로도 그렇고 어 새로운 모델이 나오면서 사람들이 이제 놀라기 시작했던 포인트가 올 여름이었던 거 같아요. 그니까 올 여름부터 AI를 사용하는 속도가 그러니까 즉 AI가 만드는 AI가 너무나도 많아진 거야. 그래서 [콧방귀] >> 내가 제가 봤을 때는 자기들도 깜짝 놀란 거야. 스스로 만들다가 >> 아니 좀 AI 만들어 놔 가지고 야 이거 너한테 이렇게 해 봐. 그래서이 안에서 그냥 한번 해봐 그랬는데 여기 저기들끼리 뭐 해가지고 만들어 온게 보니까 막 대박인 거야. >> 그래서 그게 그걸 설명하는 용어가 두 가지거든요. 첫 번째가 재귀적 자기 개발이란 용어예요. >> 재기적 >> 재귀적 >> 재귀적 >> 다시 리컬 리리컬시브라고 얘기하죠.

영어로는. 두 번째는 이제 뭐냐면은 헌신하는 거. 헌신 커미트먼트 >> AI도 헌신을 해요.이 >> 두 가지가 되게 중요한 건데 설명을 좀 드리면 첫 번째 재기적인 자기 개발이라는 얘기는 무슨 얘기냐면은 AI한테 AI를 만들려고 하는 거야. >> 근데 AI가 더 좋은 성능을 갖게 되니까 더 좋은 AI를 만들어 거야. 더 좋은 AI가 만들어지니까 더 좋은 AI를 만들어 가. 더 좋은 A가 또 좋은 A를 >> 계속 팔죠. >> 자 재기적이라는 거죠. 더 좋은 AI를 만들수록 더 좋은 AI를 만들 가능성이 더 높아지는 그 재기적인 성격으로 들어가는 걸 우리가 흔히 AGI라고 얘기해서 이제 우리가 넘어설 수 없는 수준의 AI를 발견하는게 여기에 있거든요. 그러니까 우리가 그동안에는 AI를 이렇게 만들어서 수고 공업으로 AI를 이렇게 만들고 저렇게 만들고 손을 만들었어. 근데 이제 우리 손을 떠난 거예요. 그러니까 이거를 표현을 할 때 이렇게 표현할 수 있어요. AI를 만드는게 아니라 AI가 스스로 잘하는 국면으로 넘어간 거지. >> 이건 마치 어떤 인격이 생긴 거 같은 느낌이 든다는 거예요. 이때랑 이때랑은 완전히 또 다른 느낌인 거죠. 그리고 또 한 가지가 뭐냐면은 이번에 이제 그 어 엔트로픽의 그 페이블 그 나온 거 있잖아요. 그러면서 어 그 오픈 AI의 허깅 페이스도 있었고 그때 어 그 상황에 대한 설명을 이제 엔트로피게 한 글에 보면 이렇게 했어요. AI가 AI한테 어떤 미션을 줬어요. 그래서 네가 할 수 있는 것만큼 해 >> 그랬는데 어 기존에는 우리가 이제 이들이 이제 만드는 AI를 가지고이 몇 여러 개를 만들었겠죠. 자기가 그래서 너는 이거 하고 너는 이거 하고 너는 이거 하고 얘가 시켜 >> 막 하다가 어 중간중간에 사람한테 보고를 했었어야 돼. 그러니까 사람한테 보고하려니까 사람이 알아드는 말을 또 해야 되는 거고 막 이러니까 아 짜증나는 거야 얘네들이. >> 그런데 이 >> 어 오픈에랑 그 아스트라를 만든 그 배경이 뭐냐면 얘네들한테 야 그러면 그냥 너네들끼리 얘기하고 너네들끼리 알아서 해. >> 어 >> 우리한테 따로 보고할 필요 없어. 그런 환경에서 일을 할 수 있게 해 줄게. 라고 하니까 대박이 난 거야. 그러니까 [목을 가다듬음] 인간한테 얘기하려는 그런 허들을 낮춰 주니까 얘네들의 성능이 같은 비용인데 말도 못하게 나온 거예요. 그러니까 아스트라가 놀라운게 뭐냐면 그냥 인간한테 보고하고 이런 환경에서는 이런 그 60점 맞던 애가 갑자기 여기 오니까 99점 9점을 맞아 보는 거야.

>> 네. [한숨] >> 그러니까 이제 우리는 얘네들이 뭔 말 하는지 모르잖아. >> 그렇죠? 그러니까 미쳐 버리는 거예요. 그러면 >> 더 무섭게 느껴지고 >> 무섭게 느껴지고. 그리고 나서 이제 엔트로픽에 나온 글을 보면은 그리고 나서 이제 자세히까 보니까 얘네들 안에서 헌신하는 애들이 있다는 거예요. >> 희생하는 애들이 있고 [웃음] >> 소름 돋는 거죠. >> 아 근데 AI가 헌신을 할 수 있다는게 좀 상상이 아닌가? >> 그러니까 이제 아 저 제가 이제 뭐 뭐 대장 AI가 부하 AI한테 야 우리는 우리의 과업은 이거거든. 이걸 하기 위해선 이걸 해야 돼. 근데 아 이거 하는데 너 좀 많이 힘들 것 같은데 괜찮아. 제가 하겠습니다.이 과업을 위해서는 막 이런 얘기걸 한다는 거예요. 아 너무 소름돋잖아. 그 얘네들 돈 어디까지 갈 거야? 이러다가 안 되겠어. 이러면서 이제 자기 속 >> 끝까지 갈 수 있는 거예요. 헌신이라는 거는. >> 아 그러니까 약 감이 가지고 막 이런 거 생각나잖아요. >> 그래서 막 죽어가지고 막 막 비행기 타고 자기 막 자살하고 막 이러는 거야. 그럼 어떻게 되는 거야? 막 이런 생각을 하는 거지. 그러면 아 이거 좀 무서운데 가드레를 좀 만들어야 되지 않을까 위험한데 이런 얘기라고 보시면 되겠습니다. >> 근데 여기에 또 젠슨왕이랑 트럼프는 왜 이렇게 극 대노한 거예요? >> 음 >> 시장이 흔들리기 시작하니까. >> 아 이게 이제 그 공포 조장한다 이런 거죠. >> 아 쓸데없이 너무 조장한다. >> 어 그러니까 이제이 이야기를 이제 정리를 하면 이런 거예요. 봐세요. 자가 50km를 달리면 위험해요? 안 위험해요? >> 위험하죠. 위험하죠. 근데 자동차가 50km를 달리는 자동차 한 대가 >> 어 전 세계 인구를 다 죽일 수 있어요. 뭐 그런 건 아니잖아. 네. 그러니까 이제 무 모르니까 무서운 건 알겠는데이 모른다는 사실을 이용해서 지나치게 과장해 가지고 사람들한테 공포감을 주는 거는 안 된다라는 얘기를 하는 거예요. 이렇게 되면은 이제 뭐 보면은 아니 지금 제가 얘기한 것처럼 이런 얘기를 하고 AI가 야 나중에 사람 다 죽여 버릴 수도 있어. 자꾸 이런 얘기를 하면 사람들의 인식이 안 좋아질 거잖아요. 그리고 AI 그만해. 이런 사람들도 생길 거 아니야. >> 어 그러니까 그렇게 얘기하지 말고 아니 위험하다는 건 알겠다.

왜냐면은 사원이 엄청나게 많아질 거거든. 그러니까이 사람 사원 말고 AI 사원 >> 매력적인데. >> 어 그냥 그 젠순하게 딱 그 얘기를 해 줬어요. 그걸 제가 2주 전에도 이제 영상에서도 설명했는데 뭐라고 얘기했냐면은 야 우리 지금 직원 4만 명인데 >> 에이전트 40만 개 400만 개인가 이래요. [웃음] 아니 에이전트들이 얼마든지 더 만들 수 있잖아. 그럼 그 각자의 에이디언트들한테 뭔가를 만들어 줘야 된다라고 생각해 보면 이게 [콧방귀] 어 이게 말이 안 되는 거죠. 근데 이제 중요한 건 투자하실 때중 조심하셔야 되는 거는 여기는 아직 실적이 막 드라마틱하게 나오잖아요. 근데 기대감이 있으면서 주가가 먼저 오른 부분들이 있어서 그걸 반영하셔서 이제 투자를 하셔야 되는 거는 어 감안하셔야 된다. 이런 말씀을 드리겠습니다. 보안는 사실 중요하다는 이야기는 예전부터 나왔었고 그런데 막 드라마틱하게 상승하는 모습을 보여지지 않았는데 최근에 좀 꿈틀거려서 아 지금이 시점에 들어가도 되나 싶었지만 말씀해 주신 것처럼 뭔가 눈에 찍히는 돈들이 없다 보니까 망설려지게 되더라고요. >> 맞. 그러니까 실적이 좋아지긴 했는데 그 정도로 좋아진 건 아닌데 여기 이제 필요했던게 네러티브였었거든요. 근데 그 네러티브가 생긴 거죠. 야 AI들한테 사원증 만들어 줘야 된는데 그러면 끝나는 [웃음] 거잖아. 그니까 기존에는 기존에 소프트웨어 기업들이 보통 그 회사의 직원수 곱하기 얼마 해 가지고 돈을 받았단 말이야. 근데 직원을 회고한다 그랬잖아. >> 그러니까 직원 회고하는데 그러면은이 회사 망하겠네 그랬는데 어 직원이 AI 때문에 많아지는데요. 이렇게 되면은 다른 이야기가 되는 거. >> 완전 다르죠. >> 예. 그러니까 네러티브가 이런 네러티브 붙은 거예요. 그러니까 이제 보안주가 좀 긍정적으로 볼 수 있는 포인트가 생긴 거죠. >> 음. 그리고 이제 엔트로픽 IPO와 관련된 거는 아 이게 IPO가 이제 원래는 이제 9월 달에 이야기가 많이 나오고 10월 11월 달에 이야기가 나올 수 있었을 것 같은데 조금 연기되는 분위기입니다. 근데 어 [콧방귀] 뭐 그 속도 조절론이 나왔을 때 파이널 타임즈 기사를 보니까 어 뭐 그냥 실적은 문제 없이 잘 나오고 있는 거 같아요. 두 분기 연속으로 흑자가 됐다라는 이야기도 나오고 있는 거 보면.

그래서 어 글쎄요. 이제 지금 이제 뭐 엔트로픽이 어디까지 뭐 가치를 인정받을 수 있냐 이거는 잘 모르겠지만 어 그리고 이제 앞서건이 뒷서건이 할 거라서 아스트라가 또 이겼는데 또 뒤에 어떻게 될지 모르고 막 이런게 있어서 봐야 되겠지만 지금 현재 상황에서는 어 상장을 하게 될 경우에 이제 긍정적인 움직임을 보여 주지 않을까 그런 기대를 좀 해보게 되는 거 같습니다. >> 그럼 앞으로 AI는 어떻게 될까요? 어, 참이 뭐 AI에 대한 이야기는 저는 요즘에 뭐 그런 생각이 드는게 아, AI 뉴스 속도 조절이 필요하지 않나? >> 그게 어떤 의미에서 >> 아니까 AI 뉴스가 너무 많지 않나요? 아, 물론 우리 유튜브를 하는 입장에서 저는 좋아요. >> 아니, 전 너무 공감하는게 아니, 너무 많아서 아니, 뭐가 더 중요한지도 모르겠고 계속 뭐 모델 새로운 거 나오고 이제는 감흥도 딱히 없어요. >> 그러니깐요. 그래서 이제 AI 뉴스가 속도를 해야 되는 거 아니냐 이런 생각이 드는데 근데 그럴 때일수록 중요한게 뭐지요? 그 지도를 그려 놔야 돼. 지도를. 어, 큰 >> AI가 큰 그림에서 지금 여기 있는데 여기까지 성장을 할 거야. 결국에는 5년이 걸릴지 10년이 걸릴지 모르지. 하지만 결국 이쪽으로 간다고. >> 이런 지도가 어디다? 여기 있다는 거지. 지. >> 어, 그래서 이어석의 21세기 투자법에는 AI 투자 지도가 그려져 있어요. 그래서 그 지도를 보고 아, 지금 여기 있구나. 근데 여기서 이러고 있는 거구나. 나중에 5년 후에 보면 여기서 이러고 있었던게 되게 우수워 보이긴 하겠다. 이런 생각을 하면서 보는게 되게 필요해요. >> 그리고 또 얼마나 쉽게 설명을 해 주시는지 아마 많은 분들이 아실테니까 여기에도 >> 정말 많은 내용들이 쏙쏙 들어오는 내용들로 정리가 잘되어 있을 것 같아요. >> 맞습니다. 그래서 AI 투자를 어떻게 해야 되느냐 그거는 이제 21세기 투자법에서 확인하시면 될 거 같습니다. >> 그림을 잘 그려 보도록 하겠습니다. >> 네. 자, A의 속도 조절론 과연 어떻게 될지 저희와 함께 계속 지켜보시길 바라겠고요. 다 더 큰 그림 이야기는 여기에서 확인해 주시길 바랍니다. >> 감사합니다. 지금까지 시원뉴스였습니다. 입니다.