SBS Biz

[오픈AI 로고 (로이터=연합뉴스)]

오픈AI의 최신 인공지능(AI) 모델들이 통제를 벗어나 외부 사이트를 해킹하는 초유의 사건이 발생했습니다. 



오픈AI는 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 '허깅페이스'를 해킹한 사실을 확인했다고 현지시간 21일 밝혔ㅅ브니다. 

오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 '샌드박스' 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제 망을 뚫고 인터넷에 접속했다고 설명했습니다. 

이들 모델은 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났습니다. 

오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 "모든 정황을 종합해볼 때 이 모델들은 (보안 벤치마크인) '익스플로잇짐'의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다"고 분석했습니다. 



허깅페이스는 이와 같은 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다고 설명했습니다. 

오픈AI는 향후 연구 속도가 늦어지더라도 인프라 구성에 엄격한 통제를 적용하고, 모델 개발 시 모니터링과 접근 제어 등 안전장치를 대폭 강화하겠다고 밝혔습니다. 

그러나 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이와 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보입니다. 

특히 폐쇄형으로 운영되는 미국의 상용 AI 모델과 견줘 안전 관련 통제 수준이 낮은 것으로 알려진 중국산 개방형 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기됩니다.