앤트로픽의 모델 증류 조사 결과 공개
작성자의 핵심 판단
작성자는 미국 프런티어 모델의 선도 폭이 생각보다 클 수 있고 중국의 추월은 쉽지 않을 수 있다고 본다.
근거 보기 1
- 원문 구간 1
막 이런 얘기가 나오지 않았을까? 제가 아까 중국이길 것 같아요. 미국이길 것 같아요라는 지문에 대해서이 대답을 드린 이유는 뭐냐면 생각보다 미국에 있는 프런티어 모델들이 앞서 있는 정도가 클 수 있고 중국이 추격을 하긴 하지만 추월을 하기는 좀 어려울 수 있다라는 생각이 어 여기서 할 수 있는 거 같습니다. 근데 중국의 추격은 앞으로도 계속될 가능성이 높고 그리고 시간은 중국 편이다라는 얘기가 나오는 이유가 결국 이제 에너지 때문이거든요. 그래서 이제 미국도 어 지금 이제 프런티어 모델은 앞서 있지만 에너지가 조한 문제를 어떻게 해결할 것인지 그리고 AI에 대한 미국민들의 부정적인 여론은 어떻게 할 것인지 이런 것들을 계속 보면서 가야 되지 않을까라는 생각이 듭니다.
이 자료에서 다룬 사실
이 자료는 앤스로픽이 중국 업체들의 모델 증류 과정에서 중국 정부의 핵심 아이디어나 비밀 정보가 남겨졌다는 취지의 내용을 발표했다고 소개한다.
근거 보기 2
- 원문 구간 1
중국이 AI 모델을 미국에 비해서 너무 싸게 잘 만든다. 이런 얘기가 나오고 있단 말이에요. 왜 잘 만드나 이런 얘기를 하다 보니까 어 잠깐만 그게 그 미국에 있는 모델을 다 뺏겨서 그런 거래. 그 증류해서 그런 거래. 이런 얘기가 나왔요. 근데 엔트로픽이 얼마 전에 발표한 내용을 보면은 이런 내용이 있었어요. 아, 중국 애들이 우리 거 다 뺏기는 건 좋은데 자기네들이 뺏겨 가지고 도망가다가 자기네들의 금고에 있는 열쇠를 두고 갔어. 이런 얘기를 합니다. 그래서 제가 그 얘기를 보고 너무 깜짝 놀란 거예요.이 중국에서 더 깜짝 놀랬을 거야. 만 중국에는 많은 업체들이 어떤 식으로 엔트로픽을 증류하냐면 어 고객들이 가지고 온 그 문제들 있잖아요.
- 원문 구간 2
이거 풀어 주세, 저거 풀어 주세요라는 문제를 그냥 다 같이 엔트로피한테 던지는 거예요. 그럼 엔트로픽이 문제를 풀면서 답을 내놓을 거 아니에요. 그럼 이렇게 옆에서 보면서 열심히 베기는 거예요. 그게 증류한다라고 표현하거든요. 열심히 베기는데 아 거기에다가 중국 정부에 있는 핵심 아이디어 뭐 혹은 뭐 이게 금고에 있는 비밀 번호 이런 거를 남겨 놓고 온 거야. 그래서 엔트로피 멀쩡하게 이렇게 보고 있다가 어 잠깐만 이거 왜 나한테 있지? 이런 얘기가 나왔단 말이야. 그니까 이게 중국에서도 아마도 제 생각에는 너네 이제 증류 그만해. 그래서 증류하다가 우리 거 넘어가면 진짜 혼내준다.
그렇게 판단한 이유
고객 문제를 앤스로픽에 던져 답을 얻고 이를 베끼는 방식이 증류로 설명되며, 이 과정의 정보 유출 문제가 중국 내에서도 제약 요인이 될 수 있다는 해석을 든다.
근거 보기 3
- 원문 구간 1
중국이 AI 모델을 미국에 비해서 너무 싸게 잘 만든다. 이런 얘기가 나오고 있단 말이에요. 왜 잘 만드나 이런 얘기를 하다 보니까 어 잠깐만 그게 그 미국에 있는 모델을 다 뺏겨서 그런 거래. 그 증류해서 그런 거래. 이런 얘기가 나왔요. 근데 엔트로픽이 얼마 전에 발표한 내용을 보면은 이런 내용이 있었어요. 아, 중국 애들이 우리 거 다 뺏기는 건 좋은데 자기네들이 뺏겨 가지고 도망가다가 자기네들의 금고에 있는 열쇠를 두고 갔어. 이런 얘기를 합니다. 그래서 제가 그 얘기를 보고 너무 깜짝 놀란 거예요.이 중국에서 더 깜짝 놀랬을 거야. 만 중국에는 많은 업체들이 어떤 식으로 엔트로픽을 증류하냐면 어 고객들이 가지고 온 그 문제들 있잖아요.
- 원문 구간 2
이거 풀어 주세, 저거 풀어 주세요라는 문제를 그냥 다 같이 엔트로피한테 던지는 거예요. 그럼 엔트로픽이 문제를 풀면서 답을 내놓을 거 아니에요. 그럼 이렇게 옆에서 보면서 열심히 베기는 거예요. 그게 증류한다라고 표현하거든요. 열심히 베기는데 아 거기에다가 중국 정부에 있는 핵심 아이디어 뭐 혹은 뭐 이게 금고에 있는 비밀 번호 이런 거를 남겨 놓고 온 거야. 그래서 엔트로피 멀쩡하게 이렇게 보고 있다가 어 잠깐만 이거 왜 나한테 있지? 이런 얘기가 나왔단 말이야. 그니까 이게 중국에서도 아마도 제 생각에는 너네 이제 증류 그만해. 그래서 증류하다가 우리 거 넘어가면 진짜 혼내준다.
- 원문 구간 3
막 이런 얘기가 나오지 않았을까? 제가 아까 중국이길 것 같아요. 미국이길 것 같아요라는 지문에 대해서이 대답을 드린 이유는 뭐냐면 생각보다 미국에 있는 프런티어 모델들이 앞서 있는 정도가 클 수 있고 중국이 추격을 하긴 하지만 추월을 하기는 좀 어려울 수 있다라는 생각이 어 여기서 할 수 있는 거 같습니다. 근데 중국의 추격은 앞으로도 계속될 가능성이 높고 그리고 시간은 중국 편이다라는 얘기가 나오는 이유가 결국 이제 에너지 때문이거든요. 그래서 이제 미국도 어 지금 이제 프런티어 모델은 앞서 있지만 에너지가 조한 문제를 어떻게 해결할 것인지 그리고 AI에 대한 미국민들의 부정적인 여론은 어떻게 할 것인지 이런 것들을 계속 보면서 가야 되지 않을까라는 생각이 듭니다.