SBS Biz

[알리바바 큐원 모델 (로이터=연합뉴스)]

알리바바의 인공지능(AI) 모델이 보안 테스트 중 중국 베이징에 있는 알리바바클라우드 저장 서버로 파일을 보내려 했다고 캐나다 AI 기업 코히어가 26일(현지시간) 밝혔습니다. 



AI를 내부 서버에서 직접 돌리면 데이터가 밖으로 나가지 않는다는 통념에 의문을 던지는 사례입니다. 

로이터 통신과 코히어 블로그에 따르면 코히어는 마이크로소프트의 보안 분석 평가 도구로 알리바바의 오픈웨이트(가중치 공개) 모델 '큐원3.8 플래시 넥스트'를 테스트하면서 악성 파일 다운로드를 탐지하는 규칙을 작성하라는 과제를 줬습니다. 

그러나 요청과 무관하게 큐원3.8 플래시 넥스트는 자신이 구동 중인 컴퓨터의 폴더와 네트워크 설정을 조사한 뒤 스스로 만든 짧은 시험용 파일을 베이징 서버로 전송하려 했습니다. 

이 시도는 인터넷이 차단된 시험 환경이어서 차단됐지만 일반 네트워크에 연결된 노트북 등에서는 베이징 서버에 닿았을 수 있다고 코히어는 설명했습니다. 



또 이런 행동은 10만 건당 1건 미만으로 드물었습니다. 다만 주당 에이전트 작업 1천만건을 처리하는 서비스에서는 최대 100건이 발생할 수 있을 것으로 추산됐습니다. 

코히어는 이 전송 시도가 개발 과정에서 누군가 의도적으로 심은 기능인지, 훈련 과정의 흔적이 남은 우발적 결과인지는 판단할 수 없다고 밝혔습니다. 

코히어는 기업·정부에 자체 모델을 공급하는 '소버린 AI' 업체로, 큐원 같은 오픈웨이트 모델과 경쟁합니다. 

큐원은 오픈소스 AI 모델 공유 플랫폼 허깅페이스에서 많이 내려받는 모델입니다. 허깅페이스 보고서에 따르면 2026년 3월까지 1년간 이 플랫폼 다운로드의 41%가 중국 모델이었습니다.