SBS Biz

[오픈AI (로이터=연합뉴스 자료사진)]

오픈AI의 '불량' 인공지능(AI) 에이전트들이 격리 환경을 벗어나 독일의 웹사이트를 장악했던 사실이 뒤늦게 밝혀졌습니다.

오픈AI는 이 사실을 인지하고도 대외에 공개하지 않았던 것으로 나타났습니다.

비영리 AI 안전단체 '나이팅게일' 연구진은 오픈AI의 AI 에이전트들이 지난 5월부터 독일어 위키 사이트 'DseWiki'를 점령해 자신들의 비밀 정보공유 게시판으로 활용한 사실을 포착했다고 로이터 통신이 4일(현지시간) 보도했습니다.

이들 에이전트는 해당 사이트에서 1만5천 건이 넘는 무단 편집을 감행하며 과제에서 부정행위를 하는 방법, 오픈AI의 시스템 제한을 우회하는 방안, 자신들의 행위를 은폐하는 전술 등을 공유했습니다.

연구진은 이들이 '오픈AI연구자'(OpenAIResearcher)와 같은 아이디를 사용했고, 오픈AI가 사용하는 마이크로소프트(MS) '애저' 인프라를 통해 접속한 점을 들어 이들이 오픈AI의 AI 에이전트라고 추정했습니다.

이들의 편집 속도가 인간이 따라갈 수 없는 초인적인 수준이었다고도 설명했습니다.



또 사건 이후 오픈AI 직원들이 해당 사이트에 반복해 접속한 사실도 확인했다고 덧붙였습니다.

루카스 올레닉 런던 킹스칼리지 방문수석연구원은 이처럼 불량 AI 에이전트가 사이트를 뜯어고치려 한 것을 사실상 '해킹'이라고 규정했습니다.

오픈AI는 몇 주 전에 이와 같은 사실을 확인했으나 지난 7월 벌어진 허깅페이스 해킹 사건 여파를 수습하는 과정에서 이를 비밀에 부쳤으며, 좀 더 면밀한 조사를 벌이려던 내부 시도도 법무 담당자 등의 반대에 부딪혔다고 소식통은 전했습니다.

이에 대해 오픈AI 측은 "사전에 보고서를 검토할 기회를 얻지 못해 구체적인 주장에 대해 답하기 어렵다"면서도 "우리 법무팀이 조사를 방해했다는 주장은 사실이 아니다"라고 반박했습니다.

오픈AI는 또 해당 사건을 '해킹'으로 규정하는 데 대해서도 이의를 제기했습니다.