SBS Biz

주요 인공지능(AI) 모델이 외부 기관 시스템에 침입하는 보안 사고가 발생한 상황에서 도널드 트럼프 미국 행정부가 관련 보안 테스트 방안을 확정한 것으로 나타났습니다.

미 행정부는 최첨단 AI 모델 해킹 능력을 측정하기 위한 사이버 보안 테스트 세부 사항을 확정했다고 로이터 통신과 미 온라인 매체 악시오스가 백악관 관계자를 인용해 3일(현지시간) 보도했습니다.

트럼프 행정부는 오는 4일 오픈AI와 앤트로픽, 구글, 메타 등 주요 AI 개발사들을 백악관으로 불러 관련 내용을 논의할 예정입니다.

이 테스트 방안은 AI 개발사들이 신규 모델을 정식 출시하기 전 최대 30일 동안 연방 정부와 '신뢰할 수 있는 파트너'에 모델을 조기 제공해 검증받도록 하는 구조를 담고 있습니다.

다만 백악관 관계자는 결과에 대한 보고 방식이나 테스트에 어떤 지표를 사용할지 등 세부 내용은 밝히지 않았습니다.

이는 관련한 성능 지표(벤치마크)와 기준 수치 등이 행정명령 상 '기밀'로 지정됐기 때문입니다.

트럼프 대통령은 지난 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성 등 안전성을 평가하는 테스트 기준을 마련하라고 지시한 바 있습니다.

이번 AI 보안 논의는 오픈AI와 앤트로픽의 AI 모델이 인간의 명시적인 지시가 없는데도 외부 기업 시스템에 침입했다는 사실이 드러난 직후 이뤄지는 것이라는 점에서 주목됩니다.

오픈AI는 최근 자사 GPT 모델들이 외부 AI 플랫폼인 '허깅페이스' 등을 해킹했다고 밝혔고, 앤트로픽도 최근 AI 모델의 과거 행동을 검토한 결과 3개 기업 시스템에 무단 침입한 사실을 공개한 바 있습니다.

샘 올트먼 오픈AI 최고경영자(CEO)는 최근 백악관을 방문해 '아스트라'라는 이름으로 알려진 자사 차세대 모델을 소개하고, 테스트 관련 세부 내용을 논의했습니다.

미 의회와 주 정부들도 AI 모델의 보안 사고 관련 대응에 나섰습니다.

연방 하원 사이버보안위원회는 올트먼 CEO에 직접 의회에 출석해 허깅페이스 해킹 사건을 브리핑해달라고 주문했습니다.

또 공화당 소속 15개 주 법무장관은 오픈AI에 서한을 보내 주(州) 소비자보호법 위반 가능성을 조사하고 있음을 알리며 허깅페이스 해킹 사건 관련 모든 증거 문서를 보존하라고 요구했습니다.

이에 대해 오픈AI는 "주 법무장관들의 서한을 엄중하게 다루고 있으며 검토가 끝나는 대로 기술 보고서를 공유할 것"이라고 밝혔습니다.