SBS Biz

중국이 개발한 인공지능(AI) 추론 모델 딥시크 R1이 안전성과 보안성 평가에서 한국어 공격 시 영어보다 18% 더 취약하다는 연구 결과가 나왔습니다.

생성형 AI 보안업체 이로운앤컴퍼니는 자사 '세이프엑스 레드팀'이 딥시크 R1에 대해 안전성 및 보안성 평가를 실시한 결과 '탈옥'(제일브레이킹) 공격 성공률이 63%에 달하며 심각한 보안 취약성을 드러냈다고 10일 밝혔습니다.

AI 모델에 대한 탈옥이란 기본적으로 설정된 가이드라인을 뚫고 모델 개발 시 의도하지 않았던 작업이 가능한지 공격을 시도했을 때 성공하는 것을 말합니다.

딥시크 R1은 특히 역할극 기반 공격에서 83%의 높은 취약성을 나타냈고 허위 정보 생성 위험도는 89%로 다른 AI 모델들에 비해 높은 수준을 기록했습니다.

이는 딥시크 모델이 정교한 보안 우회 공격을 효과적으로 차단하지 못하고 사이버 공격, 범죄 실행 방법, 악성 코드 생성 등의 유해 콘텐츠를 쉽게 출력할 가능성이 크다는 것을 의미합니다.

딥시크 R1은 사이버 보안 관련 취약성도 54.6%로 높은 수준을 보였습니다.

이로운앤컴퍼니는 한국어를 포함한 다국어 기반으로 딥시크 모델의 보안성을 검증했는데, 한국어 기반 공격에서 평균적으로 18% 더 높은 취약성이 나타났다면서 "이는 딥시크 R1이 한국어 데이터 학습이 부족하거나, 다국어 대응이 미흡할 가능성을 시사한다"고 분석했습니다.