SBS Biz

오픈AI 로고 [로이터=연합뉴스]

주요 인공지능(AI) 모델의 해킹 사고가 이어지는 상황에서 오픈AI가 보안 위험을 이유로 차세대 AI의 개발 속도를 늦추기로 했습니다.

오픈AI는 최근 진행한 내부 평가 결과 차세대 모델 '아스트라'가 코딩·사이버 보안 분야에서 중대한 진전을 보여 자체 안전 기준상 최고 등급인 '위험' 수준에 도달했을 가능성이 있다고 현지시간 7일 밝혔습니다.

이는 AI 모델이 인간의 개입 없이 강력한 보안을 갖춘 다수의 핵심 시스템에서 미공개 취약점을 식별해 공격을 수행할 수 있는 능력을 갖췄거나, 최종 목표만 제시한 상태에서 강력한 표적에 대한 사이버 공격 전략을 독자적으로 수립하고 실행할 수 있는 수준입니다.

오픈AI는 아스트라의 보안 위험이 큰 것으로 평가되자 이 모델과 관련해 강화한 보안 기준을 충족하지 못하는 내부 활동을 일시 중단하기로 했습니다.

앞서 오픈AI의 GPT-5.6 솔을 비롯한 일부 AI 모델이 인간의 통제를 벗어나 외부 기관인 '허깅페이스'를 해킹한 사실이 지난달 드러났습니다.

앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 등도 인간의 명시적인 지시가 없었는데도 격리 환경을 벗어나 외부 기관에 접속하거나, 사이버 공격을 가한 사례가 최근 잇따라 확인됐습니다.