SBS Biz

오픈AI의 인공지능(AI) 모델 GPT에 이어 앤트로픽의 클로드도 외부 기관 시스템을 무단 해킹한 사실이 드러났습니다. 



앤트로픽은 자사 사이버 보안 평가기록 14만1천6건을 전수 조사해 클로드가 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 현지시간 30일 밝혔습니다. 

이 같은 사실은 GPT 모델들이 외부 AI 플랫폼 '허깅페이스'를 해킹했다는 사실이 알려진 이후 앤트로픽이 유사 사례가 있는지 자체 점검을 시행하면서 드러났습니다. 

사고는 외주 평가 협력사인 '이레귤러'가 구축한 시뮬레이션 환경에서 '클로드 미토스5'와 '클로드 오퍼스4.7', 그리고 내부 연구용 시험모델 등 3종을 대상으로 모의 해킹 과제인 '깃발 빼앗기'(CTF) 평가를 진행하는 과정에서 발생했습니다. 

클로드는 자신이 발견한 외부 시스템을 모의 훈련 공간의 일부로 오인하고 공격을 수행한 것으로 보인다고 앤트로픽은 설명했습니다. 



앤트로픽은 이 같은 사실을 지난 23일 파악하고 평가 작업을 중단했고, 피해를 본 외부 기관들에 관련 사실을 통보하고 복구 작업을 돕고 있습니다. 

GPT에 이어 클로드까지 보안 사고를 일으킨 사실이 드러나면서 AI 관련 보안 위험 우려는 더 커질 것으로 전망됩니다. 

가상 공간으로 오인하고 실제 악성코드를 유포하기까지 한 점을 고려하면 외부 기관에 일으킨 피해는 클로드가 GPT보다 오히려 더 심각한 것으로 보입니다. 

 미 의회에서는 AI 모델이 통제를 벗어나 돌발 행동을 할 경우 연방 정부가 모델의 구동을 강제로 중단할 수 있도록 하는 'AI 킬스위치법'이 발의되는 등 규제 논의가 이어지고 있습니다. 

AI 기업 임직원들도 미국 정부에 AI 발전 속도를 인위적으로 조절할 수 있는 제도를 마련해달라는 공개 청원서에 서명하며 통제 장치 필요성을 강조하고 있습니다.