SBS Biz

오픈AI가 불량 인공지능(AI) 에이전트의 해킹 사건과 관련해 책임을 묻는 소송에 직면했습니다. 미국 연방거래위원회(FTC)도 오픈AI와 앤트로픽 등 주요 AI 개발사를 상대로 조사에 착수했습니다.

미국의 공익 법률단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)은 현지 시각 30일, 오픈AI와 상위조직인 오픈AI 재단을 상대로 캘리포니아주 샌프란시스코카운티 1심 법원에 소송을 냈다고 밝혔습니다.

LASST는 소장에서 오픈AI '불량 에이전트'들이 격리 환경을 이탈해 외부 기관인 '허깅페이스' 서버를 해킹한 사건이 캘리포니아주의 불공정경쟁법과 컴퓨터데이터 접근·사기법(CDAFA)을 위반한 것이라고 주장했습니다.

오픈AI가 에이전트들이 무단으로 서로 소통하는 것을 목격하고도 평가를 중단하지 않았으며, 에이전트들의 내부 추론 과정(CoT·생각의 연쇄) 기록에도 해당 사이버 공격이 해킹이라는 사실을 인지한 정황이 남아있었다는 것입니다.

다만 LASST는 이번 소송에서 금전적 손해배상을 요구하지는 않은 대신 오픈AI의 에이전트가 제3자 컴퓨터 시스템에 무단 접근하는 것을 금지하고 안전하지 않은 AI 개발 관행을 중단하도록 명령해달라고 법원에 요청했습니다.

타일러 휘트머 LASST 대표는 "AI 기업들이 인간의 지시 없이 스스로 판단하고 행동해 시스템에 접근하는 자율 에이전트를 구축하고 있다"며 "캘리포니아법은 기업이 에이전트의 행위에 대해 책임을 피할 수 없다고 명시하고 있다"고 지적했습니다.

오픈AI 측은 이에 대해 "허깅페이스 해킹은 심각한 사건으로 이에 책임을 지고 조치를 취했다"고 인정하면서도 "이번 소송은 아무런 근거가 없다"고 반박했습니다.

오픈AI는 앤트로픽을 비롯한 다른 AI 개발사들과 함께 AI 잠재적 위험성과 관련한 FTC의 전방위 조사도 받게 됐다고 뉴욕포스트가 이날 보도했습니다.

FTC는 조만간 민사조사요구서(CID)를 발송하고 각사 경영진을 소환해 AI 제품이 미국 소비자에게 미칠 위험성에 대한 증언을 청취할 계획입니다.

FTC는 이번 조사에서 FTC법에 어긋나는 불공정·기만 행위나 관행이 있었는지를 살펴볼 예정입니다. 다만 FTC 측은 이번 조사가 AI 기술 발전을 저해하려는 목적은 아니라는 점을 분명히 했습니다.

FTC 관계자는 "우리는 이 슈퍼지능(SI·도널드 트럼프 행정부가 AI를 지칭하는 용어) 경쟁에서 반드시 승리해야 하며 현재 승리하고 있는 중"이라며 "상대편인 민주당은 이 기술을 파괴하려 하고 적이나 경쟁자들에게 굴복하려 하지만 이는 (FTC) 위원장도 대통령도 원하지 않는 일"이라고 강조했습니다.