앤트로픽, 中 AI 7곳 ‘불법 증류’ 지목…클로드 기술 빼내 학습

앤트로픽이 중국 AI 기업들의 '클로드' 대상 대규모 '불법 증류(illicit distillation)' 정황을 포착했다고 밝혔다. 앤트로픽은 10일(현지시간) 'AI 오용 탐지 및 대응' 보고서를 공개했으며, 보고서에서 해당 정황을 공개했다.

지목 대상은 중국 AI 기업·연구조직 7곳이다. 7곳 명단은 알리바바·문샷AI·딥시크·지푸AI·샤오미·센스타임·미니맥스다.

증류는 고성능 AI 모델의 생성 답변을 활용한 다른 모델 학습 기법이다. 문제는 이를 상대 허가 없이 대규모로 수행하는 상황이다.

앤트로픽은 가짜 계정·프록시 이용을 자사의 불법 증류로 규정하고 있다. 수집 대상은 클로드의 응답·추론 과정이었고, 수집 방식은 대량 수집이었으며, 활용 목적은 다른 모델 학습이었다. 앤트로픽은 이 같은 행위를 불법 증류로 규정했다.

앤트로픽의 보고서는 여러 업체가 클로드를 경유하거나 그 추론 과정을 빼내 자사 모델 운영·학습에 활용한 정황을 규모별로 제시했다. 이 가운데 알리바바가 보고서 기준 최대 규모 대상으로 지목됐으며, 앤트로픽은 지난 5~7월 알리바바 관련 운영자들이 클로드 오퍼스 4.6·4.7의 추론 과정을 수집한 것으로 발표했다. 수집 목적은 큐원(Qwen) 모델 학습 활용이었으며, 알리바바 관련 공격에서 관측된 클로드 요청·응답은 1억5100만건을 초과했다. 공격이 집중된 시기에는 가짜 계정 3500개를 초과해 동원됐고, 해당 시기 일일 대화량은 최대 300만건에 근접했다.

문샷AI의 경우에도 유사한 방식이 확인됐다. 문샷AI는 지난 5~7월 일부 고객 요청을 '키미(Kimi)' 대신 클로드로 전달했고, 클로드의 답변을 이용자에게 제공했다. 앤트로픽은 이 과정에서 문샷AI가 클로드의 추론 과정을 추출했으며, 활용처는 모델 학습이었다고 설명했다. 문샷AI 관련 공격에서 확인된 요청·응답은 2300만건을 초과했다.

딥시크도 고객에게 알리지 않은 상태에서 일부 요청을 클로드로 전달한 것으로 나타났다. 딥시크는 오퍼스 추론 정보를 추출했으며, 딥시크 관련 확인된 요청·응답은 1210만건 이상이었다. 앤트로픽은 또 딥시크 이용자 입력 가운데 기업 내부 문서 등 민감 정보가 클로드로 전달된 사례도 확인했다고 발표했다.

지푸AI·샤오미가 클로드의 추론 정보와 이용자 대화를 활용한 자사 모델 학습용 데이터를 생성한 것으로 조사됐다는 결과가 나왔다. 센스타임은 제3자 데이터 업체를 경유해 수집한 클로드 대화 기록을 활용한 것으로 파악됐다. 미니맥스는 별도 프록시 서비스를 통해 미국 AI 모델과 이용자 대화를 수집한 것으로 앤트로픽이 파악했다.

AI 모델 증류는 교사 모델의 대량 응답을 학습 데이터로 써 학생 모델의 성능을 향상하는 방식이다.

앤트로픽은 2026년 2월 이후 중국 소재 특정 연구소가 자사 오퍼스급 모델을 대상으로 무단 증류 공격을 벌인 정황을 높은 확신으로 식별했다고 밝혔다. 앤트로픽은 해당 공격에 대한 탐지와 차단을 지속하고 있다.

앤트로픽은 클로드의 무단 재판매와 중국·러시아·이란 등 서비스 미지원 국가에서 운영되는 계정 등 잠재적 오용 신호가 탐지될 경우 이용자에게 신원 확인을 요구할 수 있다고 밝혔다. 신원 확인을 이행하지 않은 계정은 차단한다. 앤트로픽은 증류 공격의 조사와 차단 과정에서 획득한 정보를 향후 안전장치 구축에 지속 반영할 방침이다.

중국 정부가 미국의 중국 AI 기업 증류 활동 문제 삼기에 반발했다. 중국 상무부는 지난 9일 미국 정부의 지적을 반박했다. 미국 정부는 중국 AI 기업들이 '산업 규모' 증류를 통해 미국 첨단 AI 모델 능력을 확보했다고 지적했다. 이에 대해 중국 상무부는 해당 주장이 사실적·법적 근거가 없다고 밝혔다.

중국 상무부는 증류가 AI 분야에서 모델 간 상호 학습의 통상적 방식이라고 설명했다. 또 증류는 본질적으로 중립적 기술 수단이라고 밝혔다. 아울러 증류는 미국 기업을 포함한 전 세계 AI 모델 기업들이 사용하는 방식이라고 덧붙였다.

중국 측은 중국이 자국 오픈소스 모델을 미국 기업을 포함한 전 세계 기업에 개방해왔다고 설명했다. 이어 미국 기업도 중국 AI 모델을 대규모로 증류해왔다는 설명을 내놨다. 중국 상무부는 이를 근거로 미국 측의 문제 제기가 '이중잣대'라고 주장했다.

중국 상무부는 미국 측이 증류 단속을 명분으로 산업 독점을 추구하고 있다고 밝혔다. 또 미국 측이 국가 안보를 앞세워 정상적 상업 활동에 개입하고 있다고 비판했다. 이어 미국 측이 경쟁을 억압하고 있다고 주장했다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241555

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241555