26-9 앤트로픽의 모델 증류 조사 결과 공개
작성자의 핵심 판단
불법 증류 시도 자체보다 중국 AI 서비스 이용자가 입력한 군사·기업·공안 관련 정보가 앤트로픽 서버로 넘어간 정황을 더 심각한 사고로 평가한다.
근거 보기 4
- 원문 구간 1
알리바바를 예로 들면, 3,500개 이상의 가짜 계정으로 2026년 5~7월 1억5,100만 건이 넘는 증류작업을 한 것으로 나오고 있다. 그런데 반전이 있었다. 중국 AI들이 큰 사고를 쳤다. 문샷은 Kimi로 들어온 정상적인 사용자의 요청을 클로드로 넘겨서 처리한 뒤, 클로드의 응답을 자사 모델의 학습에 활용했다. 사용자 입장에서는 화면에 'Kimi'가 떠 있으니 중국산 AI와 대화하는 줄 알았지만, 실제로는 미국 앤트로픽 서버를 거쳐 돌아온 것이다. 중국 인민해방군 소속으로 보이는 사용자는 중국 AI인 Kimi를 쓰는 줄 알고, AI에게 군사시설의 감시영상 분석을 시킨것이다.
- 원문 구간 2
AI에게 CCTV 자료를 던져주고, 감시대상 인물이 최근 비정상적으로 행동한게 있는지 판단해 달라고 요청했다고 한다. 사용자는 중국 AI인 Kimi에게 자료를 업로드한 것으로 생각했지만, 이 자료들이 엔트로픽에 업로드 된 것이다. 업로드된 자료는 청두에 설치된 수백대의 CCTV로 인민해방군 시설을 비추는 영상들이었다. 민감한 군사시설과 보안시설 주변의 감시망이 외부에 넘어간 것으로, 방첩 관점에서는 심각한 사고에 해당된다. Kimi를 사용하는 다른 엔지니어는 대형 국유기업의 내부 시스템을 개발하는데 AI의 도움을 받았다. 그 과정에서 중요한 중국 기업들의 내부 소스코드와 유효한 접속 자격증명을 그대로 입력했다.
- 원문 구간 3
만료된 계정이 아니라, 실제로 로그인이 되는 아이디와 비밀번호가 미국 서버에 저장된 것이다. 아이디와 비밀번호를 아니, 이론적으로는 해당 기업들의 시스템에 바로 들어갈 수 있는 상태가 되었다. © MeshCube, 출처 OGQ Kimi 뿐만 아니라 딥시크도 사고를 쳤다. 딥시크는 7월중 14일만에 엔트로픽과 1,210만건 이상의 교신을 발생시켰다. 딥시크를 쓰는 것으로 착각한 중국 기술직원은 개발중인 AI 프로그램의 전반적인 내용이 담긴 문서를 업로드 했다. 더 심각한 것이 있다. 중국 공안국(경찰) 시스템을 개선하던 엔지니어들은 딥시크를 이용해 국민들을 관찰하는 기능을 만들고 있었다.
- 원문 구간 4
국민들의 주민번호와 CCTV의 안면인식기능을 활용해서 파악한 이동 동선 및 경찰 기록을 하나로 연결하는 기능이었다고 한다. 경찰이 누군가의 주민번호를 치면, 이 사람이 하루종일 어떻게 움직이고 있는지를 CCTV 안면인식에 포착되는 정보로 알수 있는 것이다. 경찰기록과도 연결되니, 허위진술 여부가 쉽게 파악될 수 있다. 엔트로픽이 오픈한 사례만 이정도이고, 공개하지 않았지만 더 심각한 내용들도 있다고 한다. 한줄 코멘트. 불법증류는 그렇다고 치고, 주민번호만 치면 CCTV를 통해 파악된 시민들의 이동동선이 나온다니, 중국은 중국이다.
이 자료에서 다룬 사실
2026년 9월 10일 앤트로픽은 중국 AI랩의 대규모 불법 증류 공격을 다룬 인텔리전스 보고서를 공개했고, 알리바바 사례로 3,500개 이상의 가짜 계정과 2026년 5~7월 1억5,100만 건 이상의 증류 작업을 제시했다.
근거 보기 2
- 원문 구간 1
2026년 9월 10일, 엔트로픽이 인텔리전스 보고서를 공개했다. 중국 AI랩( 알리바바(Qwen), 문샷(Kimi), 딥시크등)들이 앤트로픽에 대규모로 불법 증류 공격을 했다는 것이다. © springsull, 출처 증류는 고성능 AI모델에서 나오는 답변을 가지고, 작은 AI모델을 학습시키는 기법이지만, 문제는 방법이었다. 불법 암시장에 나온 도둑맞은 신용카드등을 사용해서 가짜 계정을 만들어, 엔트로픽의 답변을 대규모로 추출한 것이다. 자세한 내용은 예전에 " 엔트로픽과 알리바바의 AI전쟁 "이라는 글에서 정리한 적이 있다. 엔트로픽과 알리바바의 AI 전쟁 : 네이버 블로그 이번에 엔트로픽이 발표한 것은 조금 더 구체적인 내용들이다.
- 원문 구간 2
알리바바를 예로 들면, 3,500개 이상의 가짜 계정으로 2026년 5~7월 1억5,100만 건이 넘는 증류작업을 한 것으로 나오고 있다. 그런데 반전이 있었다. 중국 AI들이 큰 사고를 쳤다. 문샷은 Kimi로 들어온 정상적인 사용자의 요청을 클로드로 넘겨서 처리한 뒤, 클로드의 응답을 자사 모델의 학습에 활용했다. 사용자 입장에서는 화면에 'Kimi'가 떠 있으니 중국산 AI와 대화하는 줄 알았지만, 실제로는 미국 앤트로픽 서버를 거쳐 돌아온 것이다. 중국 인민해방군 소속으로 보이는 사용자는 중국 AI인 Kimi를 쓰는 줄 알고, AI에게 군사시설의 감시영상 분석을 시킨것이다.
그렇게 판단한 이유
도난 신용카드 등을 이용해 가짜 계정을 만들고 고성능 모델의 답변을 대규모로 추출한 방식이 문제였으며, Kimi와 딥시크 이용자가 중국 서비스에 올린 것으로 여긴 민감 자료가 앤트로픽에 업로드됐다는 사례를 연결한다.
근거 보기 5
- 원문 구간 1
2026년 9월 10일, 엔트로픽이 인텔리전스 보고서를 공개했다. 중국 AI랩( 알리바바(Qwen), 문샷(Kimi), 딥시크등)들이 앤트로픽에 대규모로 불법 증류 공격을 했다는 것이다. © springsull, 출처 증류는 고성능 AI모델에서 나오는 답변을 가지고, 작은 AI모델을 학습시키는 기법이지만, 문제는 방법이었다. 불법 암시장에 나온 도둑맞은 신용카드등을 사용해서 가짜 계정을 만들어, 엔트로픽의 답변을 대규모로 추출한 것이다. 자세한 내용은 예전에 " 엔트로픽과 알리바바의 AI전쟁 "이라는 글에서 정리한 적이 있다. 엔트로픽과 알리바바의 AI 전쟁 : 네이버 블로그 이번에 엔트로픽이 발표한 것은 조금 더 구체적인 내용들이다.
- 원문 구간 2
알리바바를 예로 들면, 3,500개 이상의 가짜 계정으로 2026년 5~7월 1억5,100만 건이 넘는 증류작업을 한 것으로 나오고 있다. 그런데 반전이 있었다. 중국 AI들이 큰 사고를 쳤다. 문샷은 Kimi로 들어온 정상적인 사용자의 요청을 클로드로 넘겨서 처리한 뒤, 클로드의 응답을 자사 모델의 학습에 활용했다. 사용자 입장에서는 화면에 'Kimi'가 떠 있으니 중국산 AI와 대화하는 줄 알았지만, 실제로는 미국 앤트로픽 서버를 거쳐 돌아온 것이다. 중국 인민해방군 소속으로 보이는 사용자는 중국 AI인 Kimi를 쓰는 줄 알고, AI에게 군사시설의 감시영상 분석을 시킨것이다.
- 원문 구간 3
AI에게 CCTV 자료를 던져주고, 감시대상 인물이 최근 비정상적으로 행동한게 있는지 판단해 달라고 요청했다고 한다. 사용자는 중국 AI인 Kimi에게 자료를 업로드한 것으로 생각했지만, 이 자료들이 엔트로픽에 업로드 된 것이다. 업로드된 자료는 청두에 설치된 수백대의 CCTV로 인민해방군 시설을 비추는 영상들이었다. 민감한 군사시설과 보안시설 주변의 감시망이 외부에 넘어간 것으로, 방첩 관점에서는 심각한 사고에 해당된다. Kimi를 사용하는 다른 엔지니어는 대형 국유기업의 내부 시스템을 개발하는데 AI의 도움을 받았다. 그 과정에서 중요한 중국 기업들의 내부 소스코드와 유효한 접속 자격증명을 그대로 입력했다.
- 원문 구간 4
만료된 계정이 아니라, 실제로 로그인이 되는 아이디와 비밀번호가 미국 서버에 저장된 것이다. 아이디와 비밀번호를 아니, 이론적으로는 해당 기업들의 시스템에 바로 들어갈 수 있는 상태가 되었다. © MeshCube, 출처 OGQ Kimi 뿐만 아니라 딥시크도 사고를 쳤다. 딥시크는 7월중 14일만에 엔트로픽과 1,210만건 이상의 교신을 발생시켰다. 딥시크를 쓰는 것으로 착각한 중국 기술직원은 개발중인 AI 프로그램의 전반적인 내용이 담긴 문서를 업로드 했다. 더 심각한 것이 있다. 중국 공안국(경찰) 시스템을 개선하던 엔지니어들은 딥시크를 이용해 국민들을 관찰하는 기능을 만들고 있었다.
- 원문 구간 5
국민들의 주민번호와 CCTV의 안면인식기능을 활용해서 파악한 이동 동선 및 경찰 기록을 하나로 연결하는 기능이었다고 한다. 경찰이 누군가의 주민번호를 치면, 이 사람이 하루종일 어떻게 움직이고 있는지를 CCTV 안면인식에 포착되는 정보로 알수 있는 것이다. 경찰기록과도 연결되니, 허위진술 여부가 쉽게 파악될 수 있다. 엔트로픽이 오픈한 사례만 이정도이고, 공개하지 않았지만 더 심각한 내용들도 있다고 한다. 한줄 코멘트. 불법증류는 그렇다고 치고, 주민번호만 치면 CCTV를 통해 파악된 시민들의 이동동선이 나온다니, 중국은 중국이다.