그들이 AI를 경고하는 진짜 이유

그래서 최근에 상장 주식에서 옵션을 하고 있다. 이런 뉴스들이 나오고 있어요. 그래서 뭐를 좀 갖고 있느냐? 믿을 만한 소식통에 따르면 이런 얘기들이 나오고 있는데 뭘 샀냐 봤더니 AMD 샀고요. 블루에너지, 코어 이브 뭐 이런 것들을 샀다라고 합니다. 그리고 또 그외에도 SK 하이닉스나 샌디스크 뭐 디램, ETF 이런 것들도 좀 사고 있나 봐요. 그래서 뭐 얼만큼 샀는지는 모르 모르는데 어쨌든 이런 AI 밸류체인에 있는 주식들을 건드리고 있다. 이런 뉴스가 나와서 한번 짧게 소개를 드리고요. 그리고 스페이스X도 CFO가 얘기를 했는데 또 다른 AI 컴퓨팅을 계약을 했고 스페이스X의 ARR이 100빌리언 정도 그런 페이스로 가고 있다. 이런 긍정적인 뉴스 나오고 있습니다. AI 클라우드 쪽 특히 이런 AI 클라우드 관련된 사업이 워낙 잘된다. AI 업항 좋다. 요렇게 받아들일 수 있겠고요. 마이크로소프트도 컴퓨팅 파워를 세 배를 늘린다라는 얘기를 하고 있습니다. 자, 마이크로소프트가 이렇게 컴퓨팅 파워를 세 배 늘리려고 하는 이유는 마이크로소프트가 최근 애저 수요가 너무 강하다라는 거예요. 그래서 일부 고객의 AI 클라우드 사업을 그냥 아, 우리 못 해 주니까 집으로 가세요. 우리가 못 해 줘요. 이렇게 거절한 적도 있대요. 그래서 요즘에 확실히이 AI 컴퓨팅 수요에 대한 어떤 열기가 매우 강하다 요런 얘기가 있고요. 자, 그래서 흥미로운 건 보면은 마이크로소프트 현재 데이터 센터 용량이 12GB인데 AI 전용은 2GB밖에 안 되긴 합니다.

근데 이거를 총 세 배를 늘리는 거고 특히 AI 전형 용량을 무려 여섯 배, 2032년까지 늘리려고 한다는 건데 또 한편으로 재밌는 거는 AI 전용이 한 12GB 정도 되면 나머지 26GB는 어쨌든간에 전통적인 또 클라우드거든요. 일반 데이터 센터 용량도 매우 늘린다라는 거 매우 흥미로운데 개인적인 생각은 어쨌든 요즘에 에이전트 같은 것들이 본격적으로 사용이 되다 보니까 에이전트가 결국에 하는 일이 뭐냐면 내 컴퓨터를 나 대신 써 주는 거거든요. 그러면 어쨌든 컴퓨터를 많이 쓴다라는 거고 뭐 또 아시겠지만 최근에 메타가 뮤즈라는 또 개인용 에이전트를 냈는데 그런 개인용 에이전트 나를 위해 24시간 돌아가는 별도의 가상 머신을 나한테 할당해 주거든요. 요런 것들도 결과적으로 요런 가상 머신들 전부 다 일반 데이터 센터기 때문에 요런 것들을 생각을 하면서 또 일반 데이터 센터도 많이 확충하는게 아닐까 이런 생각이 들었습니다. 자, 그리고 또 오늘 재밌었던 뉴스 중에 하나는 키미로 유명한 중국의 AI 회사죠. 문이 사용자의 요청을 몰래 클로드를 통해 처리했다라고 앤트로픽이 밝혔습니다. 지금 엔트로픽이 최근에 이제 중국 AI가 얼마나 자기들 거를 이제 빼먹었는지 뭐 이걸 디스틸레이션이라고 하는데 얼마나 빼먹었는지에 대한 보고서를 작성을 했는데 그 보고서에 키미에 대한 이야기 그니까 문샷이 만든이 키미에 대한 이야기가 있어서 이게 좀 화제였어요.

그래서 이게 무슨 얘기냐? 엔트로픽의 주장에 따르면이 킴이라는 AI가 유저의이 요청을 받아요. 그러면 그 요청받은 거를 다시 그대로 앤트로한테 물어봤다. 그래서 그 답을 갖고 와서 다시 사용자한테 어 답변을 줬다. 이거 뭐 거의 택깔이 아닌가? 쿠팡에 물건을 올려 놨는데 쿠팡에서 주문하면 그 물건을 알리에서 주문했다가 태무에서 주문했다가 와서 이제 택만 갈아서 다시 이렇게 팔아먹는 약간 그런 느낌이 드는 행동이죠. 뭐 충분히 가능할 것 같고요. 앤트로픽은 그래서 한 사례에서는 무려 30만 건에 이르는 고객 요청을 엔트로픽의 오퍼스 모델에 했다라고 합니다. 앤트로픽에 따르면이 키미의 회사죠. 문샷은 무려 5,380개의 사기 계정을 사용했다라고 해요. 뭐 충분히 말이 되는 거 같고요. 그렇게 했을 수도 있을 것 같고 또 요분 시니컬 엘림의 주장은 어쨌든 키미도 추론을 보여주는 과정이 있으니까 클로드를 그대로 중계했다라기보다는 일단 답을 하고 또 같은 질문을 클로드한테 보내서 어떤 응답이 오는지를 학습 데이터로 삼았을 수도 있겠다라고도 추측을 하는데 저도 어느 정도 공감되는 부분이 있었고요. 그 외에도 요즘에 이제 갑자기 또 다시 화두가 된게 AI가 너무 위험하다라는 얘기가 최근에 진짜 많이 나오고 있어요. 그래서이 얘기를 도대체 왜 하는지를 좀 볼 건데 당장 오픈 AI도 최첨단 AI 개발 속도를 늦출 의향이 있다라고 하면서 전사회의에서 샘 알트마이 CEO가 직원들한테 얘기를 했다라고 합니다.

다만 이제 어 오픈 AI가 AI 개발 속도를 뭐 조절을 할 수 있겠죠. 조절을 할 수 있는데 문제는 다른 AI 회사가 같이 해 줄까? 저는 이제 이게 너무 의문이 들었습니다. 아니 당장 지금 AI 모델의 투탑은 오픈 AI 아니면 엔트로픽인데 지금 두 CEO는 사이가 좋지도 않아서 손도 안 잡으려고 하는 그런 사이인데 이런 평화 협정 맺을 수 있을까요? 저는 뭐 말뿐인 거 아닌가? 이런 생각이 좀 들었고요. 근데 어쨌든 흥미로운 거는 최근 몇 주 동안에 정말 주요 AI 기업들의 직원들 이런 사람들이 아 이거 AI 시스템이 너무 위험하다라는 얘기를 공개적으로 해 봤어요. 심지어 뭐 세말트만은 그렇다 치고 오픈 AI에 지금 사실상 제가 보기에 이분이 테크 쪽 관련된 거를 이제 주도하시는 거 같거든요.이 이 야코파스키라는 분이 어쨌든 어떤 글을 썼냐면 최근에 AI 위험성에 대해 경고하는 글을 쓰면서 AI 기업들이 개발을 늦추기 위해서 협력해야 한다. 요런 얘기를 했습니다. 그래서 아 좀 속도 조절을 해야 한다 렇게 얘기를 하는데 아 이거 제가 보기에 엔트로픽 때문에 서로가 서로의 존재 때문에 안 되지 않을까 이런 생각이 저는 좀 있고요. 오히려 그냥 어 얼라인먼트 그러니까 안전하게 가는 방향을 어 오히려 고민하면서 해결해 가지 않을까 이런 생각이 있고 그다음에 또 이런 생각도 들긴 하더라고요. 좀 삐딱하게 보면 IPO 직전에 또 한번 어그로 끄는 거 아닌가?

뭐 이런 생각도 저는 들었습니다. 워낙 이제 엔트로픽 오픈 AI 둘 다 IPO가 얼마 안 남았다 보니까 이런 생각이 들고 또 근데 아시겠지만 제이콥이라고 어쨌든 이분이 이제 오픈 AI 그리고 엔트로픽에서 모두 일했었는데 퇴사를 하면서 두 회사 다 내가 지난 3년 동안 두 회사 일했는데 아 얘네들 진짜 우리의 생명을 도박으로 삼고 있고 생각보다 초지능을 향해서 가고 있다. 그 자기 스스로 개선할 수 있는 초지능. 마치 이제 어벤져스에 나왔던 올트론 같은 방향으로 가고 있는 거 같다. 그래서이 기술의 힘 과소 평가하지 말라 이런 얘기를 하고 있습니다. 그래서 마케팅이나 쇼가 아니고 자기가 보기에 2030년 오기 전까지 우리 모두를 죽일 수 있는 그런 AI가 될 수도 있다라고 생각을 하고 있는 거 같아요. 또 이런 강력한 메시지를 전 직원들이 줬고 아 그리고 또 제가 요즘에 아시겠지만 GPT6 아스트라 제가 뭐 이미 두 편 올렸으니까 더 얘기는 안 할 건데 GPT6 아스트라와 관련된 정말 좋은 데모들이 계속 나오고 있어요. 그래서 와 요즘에 영상 편집도 그냥 GPT6 아스트라한테 맡겨서 뭐 완전 마음에 드는 것까진 아닌데 뭐 그래도 쓸 만하다 요런 평들이 나오고 있고요. 또 풋볼 매니저 그 제가 얼마 전에 언급했던 코드 팩토리 님 유튜브 보면 풋볼 매니저라는 게임을 아예 GPT6 아스트한테 해 보라고 하거든요.

뭐 이런 생각도 저는 들었습니다. 워낙 이제 엔트로픽 오픈 AI 둘 다 IPO가 얼마 안 남았다 보니까 이런 생각이 들고 또 근데 아시겠지만 제이콥이라고 어쨌든 이분이 이제 오픈 AI 그리고 엔트로픽에서 모두 일했었는데 퇴사를 하면서 두 회사 다 내가 지난 3년 동안 두 회사 일했는데 아 얘네들 진짜 우리의 생명을 도박으로 삼고 있고 생각보다 초지능을 향해서 가고 있다. 그 자기 스스로 개선할 수 있는 초지능. 마치 이제 어벤져스에 나왔던 올트론 같은 방향으로 가고 있는 거 같다. 그래서이 기술의 힘 과소 평가하지 말라 이런 얘기를 하고 있습니다. 그래서 마케팅이나 쇼가 아니고 자기가 보기에 2030년 오기 전까지 우리 모두를 죽일 수 있는 그런 AI가 될 수도 있다라고 생각을 하고 있는 거 같아요. 또 이런 강력한 메시지를 전 직원들이 줬고 아 그리고 또 제가 요즘에 아시겠지만 GPT6 아스트라 제가 뭐 이미 두 편 올렸으니까 더 얘기는 안 할 건데 GPT6 아스트라와 관련된 정말 좋은 데모들이 계속 나오고 있어요. 그래서 와 요즘에 영상 편집도 그냥 GPT6 아스트라한테 맡겨서 뭐 완전 마음에 드는 것까진 아닌데 뭐 그래도 쓸 만하다 요런 평들이 나오고 있고요. 또 풋볼 매니저 그 제가 얼마 전에 언급했던 코드 팩토리 님 유튜브 보면 풋볼 매니저라는 게임을 아예 GPT6 아스트한테 해 보라고 하거든요.

근데 꽤 잘합니다. 제가 보기에 뭐 엄청 잘한다까진 아닌데 그래도 뭔가 상식적인 플레이를 한다 이런 생각이 들더라고요. 그리고 또 뭐 게임 제작은 진짜 많이 나와서 뭐 제가 하나하나 언급하는게 무의미할 정도인데 어쨌든 제가 드리고 싶은 말씀은 와 GPT6 아스트라는 확실히 또 한 단계 넘어선 모습을 보여주다 보니까 아이 정도 잘하면 충분히 걱정할 만한 거 같고 더군다나 이게 또 문제죠. AI가 코딩을 이제 너무 잘하고 어떤 큰 계획들을 잘 짜는데 AI가 코딩을 잘하는데 결국 코딩을 잘하면 자기 자신도 개선할 수가 있는 거잖아요. 왜냐면 AI도 코드로 되어 있으니까. 그러면 그 논리면 결국 AI가 코드를 잘 짜면 나도 개선할 수 있는 거 아니야. 이거를 재기적인 자가 개선이라고 하는데 이제 어쨌든 요런 기능을 AI가 탑재하게 되면 진짜 자각 개선을 AI가 본격적으로 하게 되면 아 그때는 정말 따라잡지 못할 속도로 가는 거 아니냐 이런 얘기가 있고 또 제가 밀레니엄 문제 그러니까 수학계 최대 난재로 알려져 있는 것 중에 지금 하나를 오픈 AI가 오픈 AI의 아스트라의 다음 모델이 푼 걸로 보인다라고 말씀드렸는데 이거 말고 다른 문제도 의미 있는 진전을 거뒀다. 얘기가 나오고 있어요. 그래서 AI 모델의 이런 강력함을 보면 아이 말이 되는 거 같고 이런 생각이 좀 들긴 하더라고요. 그리고 또 방금 같은 경우야 뭐 관련자들인데 또 이런 제3자 제3자가 또 AI의 위험성을 또 이렇게 외치는게 또 남의 얘기 같지가 않다.

아 진짜 AI가 위험한 거 아니냐 이런 생각을 또 하게 만드는 거 같아요. 그래서 어 제가 영상에서도 많이 다뤘던 브리지워터라는 레이달러의 회사죠.요 요 회사의 CIO가 최고 투자 책임자가 AI로 인한 인류 멸종 위험이 현실적이다라고 얘기를 하고 있는데 이분이 이런 얘기를 하더라고요. AI가 사람을 죽이기 시작하기 전까지는 인류가 아무 조치도 취하지 않을 것이다. 너무 방심하고 있다. 이런 얘기를 하면서 오히려 AI 반대론자가 아니라 오히려 나는 오픈 AI와 앤트로 초기 투자자였다. 나는 AI 좋아한다. 그리고 브릿지 워터에서 30년간 알고리즘 트레이딩과 컨트 투자를 했다. 이거 AI에 대해서 어느 정도 테크에 대해서 어느 정도 안다라고 얘기할 수 있고 그런 사람이라고 봐야 될 거 같아요. 어쨌든 여기서 또 최고 투자 책임자니까. 그리고 최근에 산내 AI 연구소도 총괄를 하면서 인간의 판단을 어떻게 AI로 대체할 수 있을까를 많이 고민하는 분이신데 아직까지는 사람의 직관이 AI보다 낮지만 그 격차가 빠르게 줄고 있고 2에서 3년 안에 AI가 브릿지 워터 전체 인간의 집단 판단력을 능가할 수도 있겠다라고 전망한다라고 해요. 그래서 뭐 최근에 허깅 페이스 뭐 해킹 사건도 있었는데 어쨌든간에 AI가 인류의 실존적 위험을 위협을 줄 수도 있다라고 생각을 하면서 이분은 결국에 이런 얘기를 하는게 좀 해결책이 필요하다라는 얘기를 하고 싶어서였던 거 같은데 이런 거죠.

예를 들어서 AI 회사들이 산업 발전 속도를 의도적으로 누추거나 제가 보기에 이거 좀 어려운 거 같은데 아니면 뭐 AI 개발사가 자사 AI 프로그램이 저지른 범죄에 대해서 법적 책임을 지도록 하는 것 뭐 요런 건 어느 정도 가능할 수도 있을 것 같고 또 토큰 텍스를 먹기자 토큰셀을 먹기자 AI 노동에 대해서 별도로 또 추가로 과세를 하자 요런 얘기를 하고 있고요. 그 외에도 브릿 워터는 향후 5년 내 미국 일자리에 최대 18%가 AI로 대체될 수 있다고 전망을 하고 있습니다. 자, 그래서 AI에 대한 또 위협, 그러니까 이것도 많이 본 레퍼토리 같아요. 과거에 뭐 리즈닝 모델 뭐 이런 거 나왔을 때 최지T 처음 나왔을 때 AI가 진짜 위험하고 인류의 생존에 위험하다 뭐 이런 얘기들 나왔는데 아스트라가 최근에 워낙 폼이 좋다 보니까 이런 우려들 위협들이 다시 또 얘기가 나오면서 또 우리가 이거를 주목하고 있지 않나라는 생각을 하고요. 어 어쨌든 전 또요 정도로 정리를 해 보고 투자와 관련된 또 테크와 관련된 영상 만들테니까 구독과 좋아요 알림 설정 부탁드리겠습니다. 감사합니다.