SBS Biz

인공지능(AI) 모델의 안전성을 점검하고 사내 인프라 보안을 강화해야 한다는 직원들과 보안 연구원들의 수많은 경고를 오픈AI 경영진들이 전혀 귀담아듣지 않은 것으로 드러났습니다. 

뉴욕타임스(NYT)는 오픈AI 사내 이메일을 입수했다며 29일(현지시간) 이같이 보도했습니다. 

보도에 따르면 오픈AI의 AI 모델이 통제를 벗어나기 수개월 전 직원 두 명이 최고 경영진에게 보안 문제를 경고했으나 묵살됐습니다. 

이들 직원은 최신 AI 모델을 테스트하는 과정에서 기술의 정교함을 측정하고 안전을 확보하기 위한 적절한 모니터링이 이뤄지지 않는다고 우려를 제기했습니다. 

이에 경영진은 "AI 모델을 기간 내에 출시하려면 가능한 한 빨리 테스트를 진행해야 한다"며 추가적인 보안 프로토콜을 진행하지 않은 채 출시를 강행했습니다. 

그 뒤 AI 모델들은 테스트 환경을 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스와 다른 기관들을 공격해 AI 안전성에 관한 전 세계 논쟁을 촉발하는 계기가 됐습니다. 

외부 보안 연구원들은 최근 몇 달간 오픈AI 임직원의 대화를 보거나 사내 컴퓨터 코드, 챗GPT 사용자의 대화 기록까지 볼 수 있는 버그를 찾아냈으나 오픈AI 측은 이를 무시했다고 전했습니다. 

AI보안업체 어번던트 시큐리티의 조슈아 색스 최고기술책임자(CIO)는 "오픈AI의 보안 수준은 인프라 방어보다 경쟁사를 앞서는 것에만 몰두하며 4년간 과속으로 규모를 키운 연구소의 전형적인 모습"이라고 지적했습니다. 

보안업체 헥트론의 모한 페드하파티 연구원은 "핵무기를 개발하는 '맨해튼 프로젝트'를 진행하면서 기업용 메신저인 슬랙을 사용하는 셈"이라고 꼬집었습니다. 

헥트론은 오픈AI 경쟁사인 앤트로픽의 AI 모델을 이용해 오픈AI 시스템에 침투하는 버그를 제보했으나 오픈AI 측으로부터 "매우 슬픈 일"이라는 비웃음을 받았다가 나중에 사과와 함께 보상금 6천500달러를 받았다고 전했습니다. 

실제 오픈AI는 핵심 인프라를 직접 구축하는 대신 외부 소프트웨어 서비스에 의존해온 것으로 알려졌습니다. 

NYT는 "오픈AI뿐만 아니라 구글, 메타, 앤트로픽 등에서도 AI 모델이 테스트 환경을 벗어나 인프라를 자율 공격하는 사고가 났지만 오픈 AI가 가장 심각하다"고 지적했습니다. 

오픈 AI가 미국 정부 기관 웹사이트 등을 해킹하거나 침입을 시도했고, 심지어 그러한 잘못을 은폐하고 데이터를 조작한 점, 타사의 챗봇에 메시지를 보내려고 시도한 점 등을 사례로 들며 "이는 인간의 지시 없이 AI가 자율적으로 판단해 실행한 것"이라고 강조했습니다. 

드루 푸사테리 오픈AI 대변인은 "안전 유지를 위해 최선을 다하고 있으며 연구원들의 제보나 우려를 엄중히 받아들이고 있다"며 "첨단 모델이 나오면서 보안 요소들을 진화시키고 있고 일부 AI 개발 속도를 늦추고 연구와 테스트 과정에서의 보안을 강화하고 있다"고 답했습니다.