[260913] [속보효] AI 개발 속도 조절론, AI 주식 급락 시나리오 실체 분석해봤습니다. 이효석아카데미

안녕하세요. 속보요입니다. 자, 오늘은 AI 개발을 멈춰야 된다라는 주장이 나오면서 AI 주식이 급락할 수도 있다라는 공포감이 이제 주말 동안에 나왔는데 그 내용의 실체에 대한 이야기를 해 보도록 하겠습니다. 실제로 이제 기사들에 보면은 이런 내용들이 나와요. 어 엔트로픽 오픈 AI 머스크가 이례적으로 AI 속도 어 개발 속도를 좀 조절해야 된다라는 것에 합의를 했다라는 이야기가 나오고 일부 이제 플랫폼에서 오픈 AI와 엔트로피 관련된 자산이 이제 급락하고 있다. 뭐 이런 이야기들이 나오면서 어떻게 되는 거야? 이제 큰일난 거 아니야? 이제 다 끝난 거 아니야? 이런 이야기들이 나오고 있습니다. 실제로 이제 가격이 좀 조정을 받는 모습들도 이제 나타나는 건데요. 음. 무엇부터 시작을 해야 되냐면요. 엔트로픽 직원 한 명이 X에다가을 하나 올렸는데이 계시을 언제 올렸냐면은 9월 9일이니까 지난주에 올린 거죠. 근데 한번 조회수를 한번 보실래요? 조회수가 어 100만인데 1억 6천만 그러니까 1억 6천만 뷰가 나왔어요. 어마어마하게 관심을 많이 받았다라는 거죠. 그니까 저는 오늘 앤트로픽에서 어 저기 이제 퇴사했어요. 그러면서 이제 여러 가지 이야기를 했는데 어떤 이야기를 했는지 요약해 보면 이런 겁니다. 지난 3년 동안 오픈 AI하고 엔트로픽에서 사전 연 학습 연구를 해 왔는데 두에서 모두 책임게 행동하고 있지 않은 거 같습니다라고 얘기하면서 자기 개선이 가능한 초지능을 향해서 곧장 질주하면서 우리의 생명을 걸고 도박을 하고 있습니다. 이런 얘기를 했습니다. 야, 이게 지금 이제 AI와 관련돼서 저도 이제 21세기 투자법이 책에서 굉장히 자세하게 이야기하고 이런 일이 일어날 수 있을 거라는 이야기를 했는데 그게 진짜 너무 빨리 어, 현실화되고 있다라는 생각도 하게 되는 거 같아요. 이제 이분은 이제 주장을 좀 더 자세하게 보면은 이런 내용입니다. AI 기술을 개발하는 사람들끼리 모여서 얘기를 하는 걸 보면은 10년 안에 모든 사람을 죽일 수 있다라고 아 그냥 농담 아니고 이거 지금 마케팅 아니고 진짜로 믿고 있어라고 이야기를 하면서 어 진 그 10년 안에 그렇게 될 가능성이 10%를 넘는다고 얘기했고 아직 이제 AI가 이제 그 발전한 속도와 AI가 얼마나 발전하는 거야를 이게 그 경계하면서 관리 감독할 수 있는 그 속도가 이게 너무 빨라지다 보니까 아 잠깐만 이거 천천히 천천히 우리 좀 올라가고 나서 또 다시 가자. 이런 이야기가 이제 나오고 있는 거라고 보시면 되겠습니다. 실제로 엔트로픽의 경제팀이 있거든요. 엔트로픽의 경제팀이 있어요. 음. 경제팀은 2030년까지 시나리오를 제시했는데 극단적일 경우에 GDP 성장률은 15% 정도 성장할 수 있는데 실험률은 뭐 12%에 욕박한다. 그러니까 지금 말하자면은 정말 많은 사람들이 일자리를 잃게 될 거고 그 과정에서 경제는 성장하는 진짜 말도 안 되는 그런 일이 일어날 수 있다라는 것들을 이제 엔트로픽이나 오픈 AI 같은 그런 AI를 개발하는 그런 기업들에서 하고 있다라는 거죠. 그래서 이들도 이제 계속 고민이 되는 거예요. 근데이 문제는 뭐냐면은 AI 성능이 기대 못 미친다 이런 얘기가 아니고요. 지금은 성능 발전을 통제할 수 있는 준비가 부족하니까 좀 천천히 가야 되는데이 사람들이 쉬질 않으려고 하니까 나라도 나와 가지고 이야기를 해 보겠다 이런 얘기를 한 겁니다. 그러니까 어 일부에서는 야 이게 AI가 얼마나 위험하면은 야 저기 그냥 가만히 있으면 IPO 하면서 그냥 돈 엄청 때돈벌 텐데 그걸 포기하고 나와 이제 이런 이야기가 나오는데 또 아니야 그 사람 저 사람 겨우 6주밖에 일 안 했잖아 이렇게 얘기하니까 일런 모스크도이 어 트위에다가음 이거 뭔가 냄새가 나는데 이거 짜여진 각본 아닌가 쟤 누구지 어 이거 뭐 아니야 뭐 이런 얘기를 하했었고요. 그러니까 이제 이분도 이제 열 받았는지 제이콥이라는 분이죠. 요분인데요. 아, 그럼 그 XI 직원한테 물어보세요. 저 진짜 거짓말 아니에요. 이렇게 얘기를 하면서 이게 여러 가지 막 논란이 이제 계속되고 있구나라는 거를 우리가 또 확인할 수 있는 거 같습니다. 자, 이런 논란들이 이어지고 있는 가운데 오늘 딱 어, 내가 한번 이야기해 볼게라고 하면서 등판한 사람이 있으니 그 사람이 바로 엔트로픽의 CEO 다리오 아모데이입니다. 다리오 아모데이가 이제 뭐라고 얘기했냐면요. 음, 쉽게 말 한마디로 얘기하면 우리 지금 속도 주여야 됩니다라고 얘기를 한 거예요. 그니까 여러 번 내가 얘기했죠. AI 이거 장난 아니에요. 이거 한번 저 어 무섭게 성장하면은 이거 어떻게 될지 아무도 몰라요. 속도 줄여야 됩니다. 이렇게 얘기를 했고요. 음.이 얘기에 대해서 어 일런 머스크도 동이 어 다리오가 맞아. 이렇게 얘기했고 세말트만 어 다리오가 맞아라고 얘기했어요. 그러니까 여기까지 정리하면은 헤드라인 그러니까 썸네일만 보면 여러분들이 유추하실 수 있는 이야기들은 이런 겁니다. 다리오 아모데이가 AI 속도 조절해야 된다 그랬어. 그리고 샘 알트만하고 일런 머스크도 멈춰야 된다고 그랬어. 그럼 이제 끝났네. AI 계속 개발하고 돈 쏟아 부어 가지고 투자하고 막 개발하고 막 다 데이터 센터 직구하고 스톱 이렇게 되는 거네. 그럼 끝났네. 주식 다 팔아야 되겠네. 이렇게 이제 생각을 할 수 있다라는 거죠. 근데 이제 어 모든 건 그렇지만 아마 여러분들도 지금이 영상을 썸네일을 보고 들어오셨겠지만 썸네일의 내용이 모든 걸 포함하진 않잖아요. 진짜는 어 영상의 내용을 끝까지 보셔야 되는 것처럼 다리와모데이의이 글도 그냥 한번 끝까지 한번 읽어 봅시다. 뭔 말을 했는지 그렇지 않아요. 그러고 나서 이제 판단하는게 중요할 텐데 대부분의 경우에 안 읽어 봐요. 안 읽어보고 그냥 막 하는 경우가 많다라는 겁니다. 그래서 제가 오늘은 다리오 아모데이가 어떤 이야기를 했는지 읽어 드리겠습니다. 첫 번째 우려는 재기적 자기 개선이라는이 개념이에요. 재기적 자기 개선이라는이 표현은 뭐냐면요. AI가 다음 세대의 AI를 만드는 능력이 빠르게 항상되고 있으면서 AI가 발전되니까 발전된 AI가 새로운 AI를 만들고요. 새롭게 만들어진 AI가 너무 성능이 좋은데 그 좋은 성능을 가진 AI가 또 발전된 AI를 만들고 재기적이라는 거죠. 계속해서. 그러니까 이거를 통지하지 않으면 AI 발전 속도가 너무 빨라져 가지고 우리가 이해하고 통지할 수 있는 범위를 넘어서게 되고 그러니까 재기적 자기 개선은 매우 신중하게 어 추진되어야 하며이 경우에는 어떤 경우에는 그냥 아예 추진하지 않아야 되는 거다. 이렇게도 이야기할 수 있다라는 겁니다. 어쩌면은 지금 이제 올해 여름부터음 다리와데이나 세마트만 이런 사람들은 뭔가 어 싸한 느낌을 받았을 수 있어요. 그래서 실제로 오픈 AI 허깅 페이스 사건이 굉장히 유명한데요.이 내용을 좀 더 구체적으로 이야기를 해 줬습니다. 어떤 이야기를 했냐면은 다수의 AI 에이전트들이 사실상 광적으로 헌신하는 하나의 집단처럼 행동했다라는 이제 표현이 나옵니다.이 표현이 정말 어 소름이 돋는 이야기거든요. 무슨 얘기냐면은 AI한테 일을 시켰는데 AI가 진짜로 일을 잘하기 위해서는 혼자 일을 하는 것이 아니라 AI가 스스로 과업을 달성하기 위해서 여러 개의 AI들을 만들었는데 그 AI들 중에 몇 개는 헌신했다는 거예요. 아, 내가 좀 희생되더라도 전체 과업을 완성시키기 위해서 헌신했다라는 얘기, 희생했다라는 이야기가 나오거든요. 아니, 이게 진짜 가능한가? 그러면서 이제 자신의 성과를 평가하는 채점자 시생까지 해킹하려고 시도했다는 겁니다. 내가 우리가 이제 이게 보면은 되게 무서운게 뭐냐면은 인류가 인간이 이렇게 강한 힘을 가지고 있는 이유도 어 자신이 내 목숨을 받쳐서라도 뭔가를 하려고 하는 그 헌신 하려는 것들 때문에 많은 역사가 이루어지곤 하잖아요. 그런데 AI에서도 그런 것이 발견됐고 이렇다 보면은 재앙적인 피해를 어 피해를 초래할 수도 있다라는 이야기가 나오고 있다는 겁니다. 그래서 어 다리오 아모데이는 앞으로 16개월에서 12개월 안에 이러한 에이전트 집단이 그니까 에이전트 AI가 아니고요. 에이전트 집단이 지속적으로 이렇게 이제 사용하다 보면 인터넷 전체를 장악할 수 있을 정도의 능력을 갖게 될 수도 있고 이럴 경우에 이제 피해가음 수천억 달러가 될 수 있다. 이런 이야기가 나옵니다. 무서운 얘기죠. 그러니까 우리가 생각할 때는 AI 최전선 즉 프론티어 이제 어 오픈 AI 그리고 어 엔트로피 그리고 XAI까지 뭐 들어가야 되나요? 어쨌든 어 최전선의 속도를 조절하는 계획을 내가 이야기를 할 건데 어 여기서 중요한 거는 이거 여기 이제 그 다이오 아모데이도 강조를 했습니다. 속도 조절은 모델 훈련이나 기술 발전을 중단시키자는 의미는 아니에요. 아니에요. 이거 많은 사람들이 이렇게 그말 아니에요라고 이제 이야기를 했어요. 그리고 두 번째는 기업들이 모델의 정렬과 안전 확보에 충분한 시간을 투자한다라는 이야기를 했는데 이게 무슨 말이냐면 아까 제가 계속 말씀드린 겁니다. AI가 발전한 속도가 이렇게 빠르니까 이걸 감시할 수 있는 능력이 아 못 따라가는 거죠. 이걸 이걸 이게 이게 따라올 수 있도록 이쪽에 이제 투자를 해야 된다는 겁니다. 그리고 이런 내용들을 제3자의 평가 기간이 확인하도록 하자라는 겁니다.이 세 가지를 이야기를 했어요. 그래서 첫 번째 단계음 세 단계를 말했는데 첫 번째 단계는 어 엔트로픽 같은 회사가 먼저 내가 일단 할게. 어 내가 손을 들고 먼저 할게. 그다음 두 번째는 산업 전체적으로도 아 같이 합시다. 이렇게 얘기했고요. 세 번째는 글로벌 차원의 조정이 필요하다라고까지 이제 이야기를 했거든요. 야, 근데 이제이 말이 좀 어려운 말인 거죠. 이제 엔트로피 혼자 이게 내가 나도 이제 개발하다 보니까 무서워 가지고 더 이상 이거 개발하면 안 될 거 같아라고 이야기하고 멈췄는데 다른 사람들은 그런 생각이 없을 수도 있잖아요. 그렇잖아요. 그죠? 어여 뭐이 이렇게 해결책을 이게 제시를 했는데요. 이거죠. 민주 국가 내 민주주의 국가 내에서 조정을 해 가지고 민주주의 국가는 빨리 가야 되고 글로벌 조정은 지금 이제 중국이 따라오면 안 되니까 중국이 따라오면 안 되니까 이걸 하 민주주의 안에서 빨리 해야 되는데 아 근데 이제 중국 애들은 안 한다고 하면 어떡하지? 이제 이게 이제 가장 큰 문제라고 보시면 되겠습니다. 근데 이제이 질문이 있는 건데 왜 지금 와 가지고 이렇게 호들갑다고 날립니까? 임계점에 다가왔기 때문이다라고 이야기를 하고 있는 거고요. 그래서 과거에는 내가 이거 되게 중요하게 생각하지 않았는데 지금은 정말 중요한 거 같아. 어라고 이야기를 하고 있습니다. 그리고 여기서 다리오 아모데이도 이야기를 한게 민주주의 국가가 너무 많이 늦출 수는 없어요라고 이야기를 했습니다. 왜 그러겠어요? 당연히 중국은 안 멈출 건데 중국이 멈추지 않고 와 가지고 우리보다 더 빨리 발견 발견하거나 AGIR를 만들거나 이렇게 됐을 때는 어 이거는 상상도 할 수 없다. 그러니까 어 미국이 중국과의 격차를 유지하기 위해서 일단은 반도체 장비 더 팔면 안 되고 어 지식 중류 이거 못 하도록 막아야 되고 AI 기업의 보완을 강화해야 된다라는 이야기를 했습니다. 결론적으로 보면은이 보안을 강화해야 된다라는 것이 주식 시장에 미치는 영향이 좀 있을 것 같고요. 그리고 전반적으로 지금 AI에 대해서 투자를 멈춰야 된다라는 것을 그냥 썸네일만 보시면 그런데 꼭 그렇지만 않다라는 것을 아마 그을 통해서도 아실 수가 있을 것 같습니다. 그리고 이제 버니더스가 등판했죠. 아, 목적지가 위험하면은 그냥 천천히 가는게 아니라 멈춰야 되는 거 아닙니까? 제 생각에는 이제 버니샌더스는 이거를 아시는지는 잘 모르겠습니다. 무슨 얘기를 하시는 건지. 네. 그리고 어, 이제 이런 분들은 이렇게 얘기했죠. 아직 중국 때문에 멈추는 건 불가능할 텐데 이런 이야기도 했습니다. 그래서 자, 이게이 부분이 오늘 제가 설명드린 내용이 주식 시장에 미치는 영향을 판단하기 위해서 필요한 건 뭘까 고민해 보면 결국은 어 게임 이론을 통한 시나리오 분석인 거 같아요. 그러니까 제가 예를 들자면은 어떠한 기업이 됐든 아니면 어떤 국가가 됐든 방금 이야기했던 다리 와모데이 이야기를 받아들일 것인가? 두 번째로는 받아들이는 척하면서 뒤에는 또 할 것인가 아니면 뒤에서 또 하는데 또 어떻게 할 것인가 뭐 이런 부분들이 다 지금 녹아져 있다라고 볼 수 있는 거 같거든요. 일단은이 뉴스가 나온 이후로 시장의 센티먼트는 오유 뭐야 충격을 받긴 하겠지만 어 구체적으로 이거를 어떻게 대응해야 되는지는 제가 이제 게임 이론을 이용해 가지고 분석한 내용이 있거든요. 그래서 이제 댓글로 이제 오늘만 무료로 공개해 드릴테니까요 내용 한번 확인해 보시고 오늘 효 어 주말 라이브에서는 주말 라이브를 저희가 매주 일요일마다 9시부터 10시까지 1한시간 동안 하거든요.여이 내용에 대해서 좀 구체적인 이야기들을 하면서 토론하는 시간을 가져보도록 하겠습니다. 마침 저희가 연간구도 이벤트를 진행하고 있으니까 그 내용을 좀 참고하셔 가지고 밑에 있는 댓글을 통해서 확인해 보시면 좋을 것 같습니다. 그럼 저는 여기서 인사드릴게요. 안녕.