[속보효] AI 개발 속도 조절론, AI 주식 급락 시나리오 실체 분석해봤습니다.

진짜는 어 영상의 내용을 끝까지 보셔야 되는 것처럼 다리와모데이의이 글도 그냥 한번 끝까지 한번 읽어 봅시다. 뭔 말을 했는지 그렇지 않아요. 그러고 나서 이제 판단하는게 중요할 텐데 대부분의 경우에 안 읽어 봐요. 안 읽어보고 그냥 막 하는 경우가 많다라는 겁니다. 그래서 제가 오늘은 다리오 아모데이가 어떤 이야기를 했는지 읽어 드리겠습니다. 첫 번째 우려는 재기적 자기 개선이라는이 개념이에요. 재기적 자기 개선이라는이 표현은 뭐냐면요. AI가 다음 세대의 AI를 만드는 능력이 빠르게 항상되고 있으면서 AI가 발전되니까 발전된 AI가 새로운 AI를 만들고요.

새롭게 만들어진 AI가 너무 성능이 좋은데 그 좋은 성능을 가진 AI가 또 발전된 AI를 만들고 재기적이라는 거죠. 계속해서. 그러니까 이거를 통지하지 않으면 AI 발전 속도가 너무 빨라져 가지고 우리가 이해하고 통지할 수 있는 범위를 넘어서게 되고 그러니까 재기적 자기 개선은 매우 신중하게 어 추진되어야 하며이 경우에는 어떤 경우에는 그냥 아예 추진하지 않아야 되는 거다. 이렇게도 이야기할 수 있다라는 겁니다. 어쩌면은 지금 이제 올해 여름부터음 다리와데이나 세마트만 이런 사람들은 뭔가 어 싸한 느낌을 받았을 수 있어요. 그래서 실제로 오픈 AI 허깅 페이스 사건이 굉장히 유명한데요.이 내용을 좀 더 구체적으로 이야기를 해 줬습니다.

어떤 이야기를 했냐면은 다수의 AI 에이전트들이 사실상 광적으로 헌신하는 하나의 집단처럼 행동했다라는 이제 표현이 나옵니다.이 표현이 정말 어 소름이 돋는 이야기거든요. 무슨 얘기냐면은 AI한테 일을 시켰는데 AI가 진짜로 일을 잘하기 위해서는 혼자 일을 하는 것이 아니라 AI가 스스로 과업을 달성하기 위해서 여러 개의 AI들을 만들었는데 그 AI들 중에 몇 개는 헌신했다는 거예요. 아, 내가 좀 희생되더라도 전체 과업을 완성시키기 위해서 헌신했다라는 얘기, 희생했다라는 이야기가 나오거든요. 아니, 이게 진짜 가능한가? 그러면서 이제 자신의 성과를 평가하는 채점자 시생까지 해킹하려고 시도했다는 겁니다.

내가 우리가 이제 이게 보면은 되게 무서운게 뭐냐면은 인류가 인간이 이렇게 강한 힘을 가지고 있는 이유도 어 자신이 내 목숨을 받쳐서라도 뭔가를 하려고 하는 그 헌신 하려는 것들 때문에 많은 역사가 이루어지곤 하잖아요. 그런데 AI에서도 그런 것이 발견됐고 이렇다 보면은 재앙적인 피해를 어 피해를 초래할 수도 있다라는 이야기가 나오고 있다는 겁니다. 그래서 어 다리오 아모데이는 앞으로 16개월에서 12개월 안에 이러한 에이전트 집단이 그니까 에이전트 AI가 아니고요. 에이전트 집단이 지속적으로 이렇게 이제 사용하다 보면 인터넷 전체를 장악할 수 있을 정도의 능력을 갖게 될 수도 있고 이럴 경우에 이제 피해가음 수천억 달러가 될 수 있다.

이런 이야기가 나옵니다. 무서운 얘기죠. 그러니까 우리가 생각할 때는 AI 최전선 즉 프론티어 이제 어 오픈 AI 그리고 어 엔트로피 그리고 XAI까지 뭐 들어가야 되나요? 어쨌든 어 최전선의 속도를 조절하는 계획을 내가 이야기를 할 건데 어 여기서 중요한 거는 이거 여기 이제 그 다이오 아모데이도 강조를 했습니다. 속도 조절은 모델 훈련이나 기술 발전을 중단시키자는 의미는 아니에요. 아니에요. 이거 많은 사람들이 이렇게 그말 아니에요라고 이제 이야기를 했어요. 그리고 두 번째는 기업들이 모델의 정렬과 안전 확보에 충분한 시간을 투자한다라는 이야기를 했는데 이게 무슨 말이냐면 아까 제가 계속 말씀드린 겁니다.

이런 이야기가 나옵니다. 무서운 얘기죠. 그러니까 우리가 생각할 때는 AI 최전선 즉 프론티어 이제 어 오픈 AI 그리고 어 엔트로피 그리고 XAI까지 뭐 들어가야 되나요? 어쨌든 어 최전선의 속도를 조절하는 계획을 내가 이야기를 할 건데 어 여기서 중요한 거는 이거 여기 이제 그 다이오 아모데이도 강조를 했습니다. 속도 조절은 모델 훈련이나 기술 발전을 중단시키자는 의미는 아니에요. 아니에요. 이거 많은 사람들이 이렇게 그말 아니에요라고 이제 이야기를 했어요. 그리고 두 번째는 기업들이 모델의 정렬과 안전 확보에 충분한 시간을 투자한다라는 이야기를 했는데 이게 무슨 말이냐면 아까 제가 계속 말씀드린 겁니다.

AI가 발전한 속도가 이렇게 빠르니까 이걸 감시할 수 있는 능력이 아 못 따라가는 거죠. 이걸 이걸 이게 이게 따라올 수 있도록 이쪽에 이제 투자를 해야 된다는 겁니다. 그리고 이런 내용들을 제3자의 평가 기간이 확인하도록 하자라는 겁니다.이 세 가지를 이야기를 했어요. 그래서 첫 번째 단계음 세 단계를 말했는데 첫 번째 단계는 어 엔트로픽 같은 회사가 먼저 내가 일단 할게. 어 내가 손을 들고 먼저 할게. 그다음 두 번째는 산업 전체적으로도 아 같이 합시다. 이렇게 얘기했고요. 세 번째는 글로벌 차원의 조정이 필요하다라고까지 이제 이야기를 했거든요.

야, 근데 이제이 말이 좀 어려운 말인 거죠. 이제 엔트로피 혼자 이게 내가 나도 이제 개발하다 보니까 무서워 가지고 더 이상 이거 개발하면 안 될 거 같아라고 이야기하고 멈췄는데 다른 사람들은 그런 생각이 없을 수도 있잖아요. 그렇잖아요. 그죠? 어여 뭐이 이렇게 해결책을 이게 제시를 했는데요. 이거죠. 민주 국가 내 민주주의 국가 내에서 조정을 해 가지고 민주주의 국가는 빨리 가야 되고 글로벌 조정은 지금 이제 중국이 따라오면 안 되니까 중국이 따라오면 안 되니까 이걸 하 민주주의 안에서 빨리 해야 되는데 아 근데 이제 중국 애들은 안 한다고 하면 어떡하지?

이제 이게 이제 가장 큰 문제라고 보시면 되겠습니다. 근데 이제이 질문이 있는 건데 왜 지금 와 가지고 이렇게 호들갑다고 날립니까? 임계점에 다가왔기 때문이다라고 이야기를 하고 있는 거고요. 그래서 과거에는 내가 이거 되게 중요하게 생각하지 않았는데 지금은 정말 중요한 거 같아. 어라고 이야기를 하고 있습니다. 그리고 여기서 다리오 아모데이도 이야기를 한게 민주주의 국가가 너무 많이 늦출 수는 없어요라고 이야기를 했습니다. 왜 그러겠어요? 당연히 중국은 안 멈출 건데 중국이 멈추지 않고 와 가지고 우리보다 더 빨리 발견 발견하거나 AGIR를 만들거나 이렇게 됐을 때는 어 이거는 상상도 할 수 없다.

아, 목적지가 위험하면은 그냥 천천히 가는게 아니라 멈춰야 되는 거 아닙니까? 제 생각에는 이제 버니샌더스는 이거를 아시는지는 잘 모르겠습니다. 무슨 얘기를 하시는 건지. 네. 그리고 어, 이제 이런 분들은 이렇게 얘기했죠. 아직 중국 때문에 멈추는 건 불가능할 텐데 이런 이야기도 했습니다. 그래서 자, 이게이 부분이 오늘 제가 설명드린 내용이 주식 시장에 미치는 영향을 판단하기 위해서 필요한 건 뭘까 고민해 보면 결국은 어 게임 이론을 통한 시나리오 분석인 거 같아요. 그러니까 제가 예를 들자면은 어떠한 기업이 됐든 아니면 어떤 국가가 됐든 방금 이야기했던 다리 와모데이 이야기를 받아들일 것인가?

두 번째로는 받아들이는 척하면서 뒤에는 또 할 것인가 아니면 뒤에서 또 하는데 또 어떻게 할 것인가 뭐 이런 부분들이 다 지금 녹아져 있다라고 볼 수 있는 거 같거든요. 일단은이 뉴스가 나온 이후로 시장의 센티먼트는 오유 뭐야 충격을 받긴 하겠지만 어 구체적으로 이거를 어떻게 대응해야 되는지는 제가 이제 게임 이론을 이용해 가지고 분석한 내용이 있거든요. 그래서 이제 댓글로 이제 오늘만 무료로 공개해 드릴테니까요 내용 한번 확인해 보시고 오늘 효 어 주말 라이브에서는 주말 라이브를 저희가 매주 일요일마다 9시부터 10시까지 1한시간 동안 하거든요.여이 내용에 대해서 좀 구체적인 이야기들을 하면서 토론하는 시간을 가져보도록 하겠습니다.