AI 개발 속도 조절 관련 발언
작성자의 핵심 판단
AI 속도 조절론은 소음에 가깝고, 에이전트 AI의 등장은 대응하지 않으면 후회할 수 있는 신호라고 평가했다.
근거 보기 2
- 원문 구간 1
이게 되게 중요한 거 같아요. 네. 그러니까 어, 효에 들어오셔서 이요 아카데미 같이 하시면 이런 걸 맨날 하는 거다. 우리 맨날 하는 거 뭐예요? 그 맨날 앉아 가지고 그 뭐 맨날 그 뉴스 보고 왜 있는 거예요? 소음과 신호를 구분하는 훈련을 하고 있는 거다라고 보시면 되겠습니다. 그래서 제가 생각할 때는 아까 제가 농담처럼 말씀드렸지만 어 AI 속도 조절로는 소음에 가깝다라고 생각하고요. 에이전트 AI는 저는 이거는 어 신호라고 생각해요. 그래서이 신호라는 것은 무슨 얘기냐면은 에이전트 AI가 나왔을 때 뭔가 움직임을 하지 않으면 나중에 후회가 될 수 있다. 신호일 때 대응을 해야 된다라는 걸 의미하거든요. 시그널이라는 거죠. 그러니까 신호는 아스트라 뮤즈가 보여준 넥스트 에이전트인 거 같습니다. 그래서 요것과 관련된 구체적인 내용을 저희가 10월 전략 회의 때 말씀드릴 거예요.
- 원문 구간 2
언제? 내일 저녁 어 6시에 이제 말씀을 드릴 겁니다. 그러니까요 내용을 가지고 한번 이야기를 해 보도록 하겠습니다. 그래서 잘 생각해 보면 올해 나왔던 제일 중요한 신호은 뭐였어요? 올해 제일 중요한 신호은 뭐였을까요? 그때 제가 막 막 흥분하면서 막 여러분 지금 몰트보 때문에 난리가 나 가지고 에이전트 AI가 안 나올 거라고 생각했는데 지금 나와 가지고 지금 난리가 났고 에이전트가 익스포넨셜하게 늘어나고 에이전트가 쓰는 메모리가 익스포넨셜하게 늘어나니까 익스포넨셜 곱하기 익스포넨셜이니까 주 메모리가 얼마나 많이 필요하겠어요? 막 연초에 막 얘기했던 기억나시죠? 어 뭐 그때 그때가 신호였던 거예요. 그때가 어 신호였던 거예요. 그러니까 그 신호를 알아차려면 어떻게 해야 되냐면 평소에 늘 보다가 어 잠깐만 이거는 아닌데 이거는 뭔가 달라 이거는 완전 큰 건데 야 이거 저기 저기 야 무슨 말인지 아시겠죠 지금은 지금은 제 생각에는 에이전트 AI가 넥스트 에이전트 AI 나온 거 같아요.
이 자료에서 다룬 사실
AI 속도 조절론이 제기된 뒤 AI 주가가 크게 빠졌다고 언급했다.
근거 보기 1
- 원문 구간 1
아네 어 AI 속도 조절론 이슈 들어왔습니다. 이거 소음인가요? 신호인가요?리리리리리리리리리리 소음 그랬어. 소음이라고 했어. 근데 아이 그 신호잖아 이놈아. AI 속도 조절 때문에 인말 어 AI 주식 다망하고 그 이유로 이제 주가 엄청 빠졌어. 너 몰라. 이렇게 이제 나중에 알게 되죠. 어 그러면 아 내가 잘못했구나. 아 남들이 다 속도 조절론 그 소음이라고 해 가지고 나도 소음이라고 생각하는데 에이 틀렸네. 그러면서 이제 반성을 하게 되는 거예요. 그게 이제 학습이에요. 이게 멋신 러닝이에요. AI가 학습하는 방법은 똑같습니다. 자 지금 이제 에이전트 AI가 나왔습니다.이 에이전트 AI 소입니까? 신호입니까? 신호. 에이 솜이지. 그거 잠깐 나왔다가 그냥 들어가는 거잖아. 에이전트 AI 그 아이고 저기 뭐 남들이 다 좋다고 따둘 때 조심했어야지 이렇게 생각할 수도 있죠.
그렇게 판단한 이유
새 에이전트가 일반인이 실제로 쓸 수 있는 단계로 나왔고, 안전 우려는 기술 개발 중단이 아니라 안전장치와 정렬을 함께 만드는 과제로 이어진다고 연결했다.
근거 보기 3
- 원문 구간 1
근데 그때는 진짜 여전히 쓰는 사람만 썼어요. GPT 3.0 같은 거라는 거죠. 근데 이번에 나온 뮤즈나 아스트라는 GPT 3.5에 가까운 거 같습니다. 이게 진짜 에이전트가 나온 거예요. 이러면서 이제 사람들이 오 이제 세상에 눈을 뜨는 거죠. 와 이게 된다. 그럼 이제 에이전트가 됐으니까 이제 무슨 얘기 나오냐? 그럼 속도 조절 해야 되는 거 아니냐? 가드레를 쳐야 되는 거 아니냐? 얘가 어디까지 해야 될지 모르는데 큰난 거 아니냐? 이런 얘기가 나오겠죠? 자 그러면 이제 끝난 건가요? 자 그러면 야 에이전트 얘기 너 쏙 들어가. 이제 여기까지 개발한 거야. 나도 다 들어가. 이제 망했어. 이제 너는 혼나 그냥 뭐 사고내 치고이 나쁜 놈들 이렇게 얘기하면서 쫓아낼 것인가?
- 원문 구간 2
그렇지가 않죠. 이거 잘 생각해 보세요. 이걸 제가 또 비율를 설명드리면 비행기가 있고 자동차가 있습니다. 자동차가 있어요. 두 개 가지가 나왔어요. 세상에 나왔어. 그래서 사람들이 너무 좋아해. 근데 사고가 났습니다. 사고하면 났어요. 그럼 어떻게 해야 돼요? 그만 타야 돼요. 그만 타고 있나요? 우리는 비행기나 차 사고 여전히 나잖아요. 근데 왜 그만 안 타죠? 근데 그때 처음 나왔을 때 사고 나는 거랑 지금이랑 뭐가 달라졌죠? 이렇게 생각해 보면 비행기든 자동차든 기술 개발을 통해서 더 안전한 자동차와 비행기를 만드는게 첫 번째예요. 기술 개발을 통해서. 두 번째는 뭐냐면 자동차가 처음 났을 때 사람이 다니는 길로 막 자동차가 다니니까 사람이 죽는단 말이에요.
- 원문 구간 3
그러니까 자동차 전도를 만들어야 돼.이 이 딱 두 가지예요. 그냥 개념이 좀 심플합니다. 어, 더 좋은 차를 만들어서 자동차가 안전하게 운행할 수 있도록 만들어 주는 차를 만드는 것. 이거는 AI 기술 개발 하는 거예요. 에이전트 AI가 더 좋은 에이전트를 만들기 위해서 기술 개발 안 할 거야. 해야죠. 당연히 합니다. 안 할 수 없다고요. 두 번째는 자동차만 다니는 자동차 전용도를 만들어야 돼. 그거를 우리가 과드레일이라고 얘기하는 거고 그걸 정렬이라고 얘기하는 거고 요거를 빨리 만들어야 된다는 얘기를 하는 거예요. 속도 조절이라는 거는 더 좋은 AI를 만들어서 배포하는 것은 천천히 하더라도 천천히 하더라도 아들레이를 만들어서 어 AI가 돌아다니면서 사람에게 피해를 주지 않는 선에서 우리 인류에 도움이 되는 것들을 만드는 것 요걸 하는 거다라고 보시면 되겠습니다.