Anthropic·OpenAI의 AI 개발 속도 조절 발언
작성자의 핵심 판단
AI 통제권 상실 위험을 피하려면 안전 기술을 확보할 시간을 위해 개발 속도를 늦춰야 한다는 취지로 소개한다.
근거 보기 2
- 원문 구간 1
어, 셋이 합쳐서 개발 속도를 좀 누쳐야 될 거 같은데라고 하는 목소리. 그래서 뭐 영향력 있는 사람들이죠. 특히 지금 AI 시대에 살고 있고 그 AI의 수장들이 이거 속도 누쳐야 될 거 같다. 그리고 이게 그냥 누추자. 뭐 좀 뭐 반도체 가격 내리고 뭐 이게 아니라 이유를 좀 뒤에 말을 했죠. 자, 그래서 아모데이 엔트로픽 최고 경영자 안전 기술이 AI의 능력 향상을 따라잡을 시간을 확보하기 위해서 개발 속도를 조금 늦춰야 될 거 같다 한다. 그래서 지금 어 보면은요 엔트로피 아모데이 최고 경영자도 그렇고 세말트만 오픈 AI 올해 AI IPO 그 오픈 AI IPO 안 하겠다. AI 안전 우려의 제동, 안전 상황 고려하면은 상장이 좀 적절치 않은 거 같고 주요 AI 기업의 개발 어 속도 그리고 안전위험 공동에 대한 합의 가능성을 좀 얘기는 했습니다. 실제로 뭐 어느 정도 기술에서는 좀 주고받고 할 거는 같은데 어 결국 핵심이 우리가 모두 동의해야 할 핵심 원칙은 AI의 미래의 통제권을 빼앗기는 위험을 초래할 행동을 해서는 안 된다. 즉 지금 목주를 잘 채워야 된다는 거예요. 그리고 이거를 느끼기 시작한게 최근에 뉴스들 몇 개가 있었죠. 음. 그래가지고 대표적인게 요거였던 거 같습니다. 오픈 AI AI 에이전트 허깅 페이스 해킹 최근에 있었고 그 두 달 전에 루비 잼스도 공격. 이게 내용이 막 완전 디테일한 건 아닌데 결국 AI한테 공간을 주고이 안에서 뭐 좀 뭐 학습을 하든 뭐를 해 하고 명령을 했는데이 AI들이 계속 학습을 하다가 야 이렇게 해가지고 원래 정해 준 범위를 벗어나서이 뭐 우리라고 해야 될지 어 이런 집을 벗어나서 야요 재료에 대해서 저쪽 뭐 커뮤니티 들어가니까 있던데 해 가지고 공간을 벗어나서 고기를 정보를 얻기 위해서 그 사이트를 뭐 해킹하는이 이런 내용들이 있었죠. 그래 가지고 이게 결국에는 정해 준 범주를 벗어나기 시작하고 이런 것들이 지금 스스로 학습을 해 가지고 성능을 높이는 그런 느낌이에요.
- 원문 구간 2
일정 범주를 넘어서서 우리가 컨트롤할 수 있는 선을 넘어선 순간 그럼 뭐 전 세계 뭐 전기를 셧다운 시킬 거냐 그것도 안 되잖아요. 음. 그러지도 못하니까 현실적으로 우리가 누릴 거 누리고 그 와중에 또 누군가는 아이 뭐 뭐 설마 그랬어 컴퓨터 쓸 거 쓰고 그런 문제가 생길 수 있다는 겁니다. 그래서 지금 이게 우리는 저희는 사실 저도 그렇고 아이 설마 그랬어? 아직 좀 와닿치는 않아요. 근데요 AI 관련해서 최고 세계에서 이제 대표적인 인물들이 입을 모아 가지고 야 이거 좀 개발 속도 늦춰야 될 거 같아. 이거 지금 완벽하게 개를 목줄 이걸 못 채우면은 얘네들이 일정 범주를 벗어나는 순간 큰일 날 것 같다라고 현직에 있는 최고 대표자들이 지금 경각심을 느끼는 거죠. 어 그래서 요런 식의 이제 개발 속도를 늦춰야 된다. 그리고 이거는 시장에서는어야 이러면은 AI에 대한 속도 투자가 줄어들 수 있지 않나라는 생각으로 지금 시장에 반응을 하고 있는 모습인 것 같습니다. 그래서 뭐 내일 또 열려 봐야 돼요. 정교장에 열려 봐야 되는데 진짜로 요런 시장에서 아직은 노이즈죠. 왜? 직접적으로 투자를 줄이겠다. 그것도 아니고 결국에는 지금 안정 기술 이거를 확보하기 위해서 속도를 좀 늦춰야 된다. 근데 속도를 늦춘다는 건 뭐예요? 어 그냥 뭐 투자는 계속하면서 원래 정해져 있는 대로 투자는 계속하면서 천천히 달려고 그건 안 되겠죠. 음. 즉 투자가 좀 줄어들 수 있지 않나라는 생각을 시장의 노이즈성으로 갖다가 좀 만들어 주는 거고 이런 것들이 지금 하이퍼리키드에서 일단은 좀 반영이 되고 있는 상황인 거 같습니다. 그래서 뭐 정규장에 열렸을 때는 또 바뀔 수도 있는데 어 깜짝이야. 눈이 땡그랗게 해가지고 깜짝 놀랐네요. 음. 있는데 그렇다고 해가지고 뭐 엄청 큰 문제냐 그거는 아직은 좀 잘 모르겠어요.
이 자료에서 다룬 사실
Anthropic 최고경영자와 OpenAI 측 인사들이 AI 개발 속도와 안전 위험에 대한 공동 합의 가능성을 언급했다고 전한다.
근거 보기 1
- 원문 구간 1
어, 셋이 합쳐서 개발 속도를 좀 누쳐야 될 거 같은데라고 하는 목소리. 그래서 뭐 영향력 있는 사람들이죠. 특히 지금 AI 시대에 살고 있고 그 AI의 수장들이 이거 속도 누쳐야 될 거 같다. 그리고 이게 그냥 누추자. 뭐 좀 뭐 반도체 가격 내리고 뭐 이게 아니라 이유를 좀 뒤에 말을 했죠. 자, 그래서 아모데이 엔트로픽 최고 경영자 안전 기술이 AI의 능력 향상을 따라잡을 시간을 확보하기 위해서 개발 속도를 조금 늦춰야 될 거 같다 한다. 그래서 지금 어 보면은요 엔트로피 아모데이 최고 경영자도 그렇고 세말트만 오픈 AI 올해 AI IPO 그 오픈 AI IPO 안 하겠다. AI 안전 우려의 제동, 안전 상황 고려하면은 상장이 좀 적절치 않은 거 같고 주요 AI 기업의 개발 어 속도 그리고 안전위험 공동에 대한 합의 가능성을 좀 얘기는 했습니다. 실제로 뭐 어느 정도 기술에서는 좀 주고받고 할 거는 같은데 어 결국 핵심이 우리가 모두 동의해야 할 핵심 원칙은 AI의 미래의 통제권을 빼앗기는 위험을 초래할 행동을 해서는 안 된다. 즉 지금 목주를 잘 채워야 된다는 거예요. 그리고 이거를 느끼기 시작한게 최근에 뉴스들 몇 개가 있었죠. 음. 그래가지고 대표적인게 요거였던 거 같습니다. 오픈 AI AI 에이전트 허깅 페이스 해킹 최근에 있었고 그 두 달 전에 루비 잼스도 공격. 이게 내용이 막 완전 디테일한 건 아닌데 결국 AI한테 공간을 주고이 안에서 뭐 좀 뭐 학습을 하든 뭐를 해 하고 명령을 했는데이 AI들이 계속 학습을 하다가 야 이렇게 해가지고 원래 정해 준 범위를 벗어나서이 뭐 우리라고 해야 될지 어 이런 집을 벗어나서 야요 재료에 대해서 저쪽 뭐 커뮤니티 들어가니까 있던데 해 가지고 공간을 벗어나서 고기를 정보를 얻기 위해서 그 사이트를 뭐 해킹하는이 이런 내용들이 있었죠. 그래 가지고 이게 결국에는 정해 준 범주를 벗어나기 시작하고 이런 것들이 지금 스스로 학습을 해 가지고 성능을 높이는 그런 느낌이에요.
그렇게 판단한 이유
작성자는 선두 경쟁이 계속되는 AI 기업들이 실제로 투자와 개발 속도를 함께 낮출 수 있을지는 불확실하다고 본다.
근거 보기 3
- 원문 구간 1
장이 열리고서 노이즈에 대해서 뭐 받아들이는 모습을 봐야 되지만 기본적으로 그건 있거든요. AI 기업이잖아요. 기업. 음. 기업은 뭐를 위해? 돈을 위해서 움직입니다. 뭐 세상에서 다 그런 거 있잖아요. 아, 저는 돈에 관심이 없습니다. 어,뭐 평화를 위해서 여러분을 위해서 희생합니다. 이러는 사람들이 정작 제일 돈에 미쳐 있었죠. 과거에 뉴스 같은 것들을 보면은 얼마 전에 뭐 또 태국 유명한 그 승력 어, 그 사람도 이제 막 문제 생겨 가지고 뭐 잡혀했던데 AI 기업들 입장에서 그러면은 진짜로 어, 다 같이 속도를 낮출까 내릴까? 아직 이게 정식적으로 투자를 줄이겠다 나온 건 아닙니다. 그냥 이거 속도는 좀 늦쳐야 될 거 같아이지. 속도를 늦춰야 될 거 같아랑 야 이거 속도 늦추기로 했습니다. 우리 투자 줄이기로 했습니다. 도장을 찍은 거랑은 좀 달라요. 그래서 확정을지는게 아니에요. 확정은 아니지만 시장은 노이즈로는 받아들일 수 있고 저 부분이 우려감이 좀 부각이 될 순 있겠죠. 자, 대신 AI 기업들 결국 AI는 지금 뭐예요? 얘네들이 엄청나게 뭐 지금 순환 금융부터 해 가지고 AI 쪽 노이즈 우리가 6월 7월 이때 이제 지수 시장에서 막 밀리면서 보통 미장에서 AI 업계에서 부각이 됐던게 순환 구융을 통해 가지고 결국 얘네들 돈 버냐? 어, 이거 돈 못 버는 거 아니냐? 결국에는 이렇게 되면은 자신들끼리 지원 뭐 투자해 준다고 하고 그 돈이 또 서로 반대로 갔다 투자하고 엔비디아에서 AI 기업들 투자하고 AI는 또 칩고 그럼 또 투자하고 이거 결국 진이 삥히 뺑뺑히 돌리는 거 아니냐 이런 시선도 있었고 한데 결국에 AI AI 기업들이 지금은 반도체 쪽도 똑같지만 치킨 게임이에요. 요쪽은 결국 살아남는 소수의 기업들, 소수의 AI가 나머지를 지배를 하겠죠.
- 원문 구간 2
음. 우리가 사회도 그렇지만 먼저 자리를 잡고 있는 사람들을 밀어내는 건 정말 어렵습니다. 어, 대기업이 보통 그런 포지션이죠. 대기업이 큰 사업들 몇 개를 하면은 그걸 신규로 들어와 가지고 밀어내는 건 정말 어려워요. 그래서 치킨 게임을 할 때 결국 살아남는 기업들이 중요한 거거든요. 우리나라 삼성 하이닉스 얘네들이 계속 아 우리 세계 1위 기술력이야. 하지만 계속 투자를 해요. 왜? 치킨 게임이 끝이 없어. 끝까지 계속 계속 그 선두 주자를 유지를 해야 되고 선두 주자에서 밀리는 순간 점점 도퇴될 수 있기 때문에 끝없이 투자가 이어져야 됩니다. AI도 그런 결이랑 같아요. 투자가 계속 이어져야 돼요. 왜? 세계 1위 포지션 2위 손가락 안에 들어가야 사람들이 사용을 할 거고 사용을 해야 매출이 나올 거고 그 매출을 통해 가지고 기업이 굴러가고 하겠죠. 이거에서 밀려나는 순간 아직은 AI가 좀 뭐 어느 정도 이제 보금은 됐지만 초창기어 가지고 막 엎치락 뒤치락 했잖아요. 어, 하지만 결국에는 점점 좁혀지고 있습니다. 뭐 한 3강, 4강이 정도로 갖다 좁혀지고 있어요. 그래서 그런 치킨 게임을 통해 가지고 얘네들이 어, 그렇다고 투자를 실제로 줄일 수 있을까? 어, 너네가 돈 벌어야 되는데.라는 라는 생각이 좀 드는 것도 있습니다. 치킨 게임에서 결국지지 않으려면은 이런 안전 우려 당연히 중요하죠. 정말 중요한 건데 그럼에도 불구하고 기업이 기업 입장에서는 돈 버는게 더 우선이지 않을까라는 생각을 해서 그래서 뭐 요거에 이제 기술을 좀 잘 만들면 되기는 하는데 어 일단은 뭐 개발 속도 어 지금은 일단 반도체 AI 학습 속도 치고 나가는 그 기술 성장의 속도 저번 주에 아스트라가 그렇게 막 또 대박을 쳤잖아요. 아스트라가 막 진짜 그냥 명령하나 하면은 사람의 의도를 읽고서 그 문장을 명령을 하면은 의도를 읽고 그거에 맞춰 가지고이 업무를 처리해 준다고 하더라고요.
- 원문 구간 3
뭐 표현을 하기에는 그런 것처럼 속도가 계속 어 올라가요.음 음. 대신 그거에 대해서 진짜로 얘네들이 브레이크를 밟을 수 있을 것인가? 아니면은 그냥 할 거 하면서 어차피 기업들이니까 치킨 게임 망하면 안 되니까. 그 결국에는 투자 조금 속도 누추다가 다른 기업이 치고 올라오면 안 되니까 결국엔 투자는 계속 이어지면서 최대한 안전 기술에 대해서 뭐 협업하면서 스탑을 쌓아 올릴지 어 그거는 이제 좀 봐야겠죠. 아직은 확정적으로 왔다가 투자 줄이겠다는 아닙니다. 목소리가 나온 거예요. 하지만 시장은 우선 저는 하이퍼 리퀴드 움직임 통해 가지고 좀 반응을 하고 있고 지금 시장에 결국 어 뭐 호재로 작용할 수 있는 부분도 있죠. 14일 같은 경우 요렇게음 어디 갔어? 14일이랑 걸프급 장 걸프 국가들 장관급 회의 그리고이 이후에 회의가 이어지면서 무언가 돌아갈 수 있는 무언가 유가 풀리고 유가에 대해서 하방 압력을 좀 줄 수 있는 그런 내용들의 기대감은 있습니다. 근데 이제 금리 인상 같은 경우에는 어 생각보다 너무 좀 잘 버텨 가지고 뭐 그냥 올 거 알고 어 시장에 에이 뭐 어차피 금리 인상할 거잖아. 아, 그래 뭐 어차피 말 거니까 할 거니까라고 생각을 해서 좀 별로 반응을 안 하는지 모르겠어요. 금리 인상 같은 경우에는 단기적으로 시장에 쇼크를 주는 느낌보다는 조금 하방 압력을 위에서 찍어 누르는 무게가 늘어난다라는 그런 시황에 좀 지긋이 눌러 주는 힘이 좀 가해진다고 보시면 되거든요. 한 번에 팍 해 가지고 도끼로 찍는 느낌보다 지긋이 눌러 주는 느낌이기는 해요. 데 일단 금리 인상이 올해 두 번까지 좀 넘어가는지 그래서 이번 주는 요런 노이즈랑 뭐 주말 중에 움직임은 있었지만 노이즈로 월요일이 좀 시작할 거 같고 뒤에 FMC까지 있습니다.