SBS Biz

오픈AI가 9월 출시한 최첨단 인공지능(AI) 모델 'GPT-6 아스트라'가 딥시크와 문샷AI 등 중국 AI 선도 기업들의 이른바 '증류' 공격의 주요 표적이 됐다고 미국 IT 전문매체 디인포메이션이 소식통들을 인용해 28일(현지시간) 보도했습니다.



'증류(Distillation)' 공격이란 경쟁사들이 자체 AI 모델을 개발하는 데 드는 비용과 시간을 아끼기 위해 프록시 서비스와 수만 개의 가짜 계정을 이용, 특정 AI에 조직적·반복적으로 질문을 던지는 행위를 말하며, 이를 통해 해당 모델의 추론 패턴과 능력을 역설계해 훔쳐 가는 방식입니다.

문샷AI는 지난주 출시된 '키미 K3.1 프로' 개발 과정에서 아스트라를 증류했으며, 딥시크는 17일 출시한 'V4.1-Flash 1017' 버전을 만들면서 아스트라 증류의 혜택을 받았다고 소식통들이 전했습니다.

또 최근까지 중국 AI 기업들은 주로 앤트로픽의 클로드 모델을 베껴왔으나 앤트로픽이 이런 공격에 강력 대응하면서 상대적으로 쉬운 오픈AI 쪽으로 공격 대상이 바뀌었다고 소식통들은 덧붙였습니다.

앤트로픽과 오픈AI는 문샷과 딥시크를 포함한 중국 개발사들이 자사 모델을 증류했다고 여러 차례 비난해 왔습니다.



증류는 AI 개발에서 흔히 사용되는 기술로, 앤트로픽과 오픈AI는 더 작고 빠르며 저렴한 버전의 모델을 만들 때 자체적으로 증류 기술을 사용해왔지만 외부 기업들이 이 모델을 표적으로 삼는 것은 논란이 됩니다.

오픈AI와 앤트로픽 모두 다른 기업이 자사 모델을 증류하는 것은 금지하고 있으며, 중국 내에서는 자사 모델도 공개하지 않습니다.

앤트로픽은 이달 초 클로드의 추론 과정에 대한 접근을 제한하는 새 보안 조치로 정보 추출 시도가 급격히 감소했으며 "증류 시도자에 의해 추출된 데이터(추론 토큰)의 양도 이전 대비 10분의 1에서 100분의 1 수준으로 대폭 줄었다"고 발표한 바 있습니다.

앤트로픽은 공격자들이 클로드 추론 과정을 반복적으로 탐색하기 어렵게 만들었으며, 증류 공격과 연관된 수만 개의 악성 계정을 적발해 영구 차단했다고 밝혔습니다.

오픈AI 대변인은 "회사는 이 문제를 매우 심각하게 받아들이고 있으며 해결을 위해 계속 노력하고 있다"고 밝혔습니다.