SBS Biz

챗GPT 개발사 오픈AI는 현지시간 28일 생성형 AI 관련 기술 개발 과정에 안전·윤리 문제를 점검하기 위해 '새로운 안전·보안위원회'(safety and security)를 구성했다고 밝혔습니다.

오픈AI는 블로그를 통해 이같이 전하고 브렛 테일러 이사회 의장과 샘 올트먼 최고경영자(CEO), 애덤 단젤로 이사 등이 위원회를 이끌 것이라고 설명했습니다.

새 위원회의 첫 번째 과제는 "오픈AI의 프로세스와 안전장치를 평가하고 더욱 발전시키는 것"이라고 강조했습니다.

오픈AI의 새로운 안전·보안위원회 구성은 기존 안전팀이 해체되고, 새 AI 모델 'GPT-4o'(포오)의 음성 모방 논란이 제기된 가운데 나왔습니다.

오픈AI는 앞서 AI의 장기적인 위험을 연구하는 슈퍼얼라이먼트(superalignment) 팀 일부를 다른 팀으로 재배치하는 등 안전팀을 해체한 것으로 알려졌습니다.

당시 팀을 이끌었던 오픈AI 수석과학자 일리야 수츠케버와 또 다른 임원인 얀 레이케는 회사를 나왔습니다. 

레이케는 "인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력"이라며 "오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만, 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다"고 비판한 바 있습니다.

오픈AI는 또 지난 12일 선보였던 새 AI 모델 GPT-4o의 음성이 미국 영화배우 스칼렛 요한슨을 도용했다는 논란도 겪고 있습니다.

'스카이'(Sky)라고 하는 이 모델의 음성이 영화 '그녀'의 AI 목소리의 주인공인 스칼렛 요한슨과 매우 유사하다는 지적이 제기되기도 했습니다.

스칼렛 요한슨은 자신의 목소리 사용을 허락하지 않았는데 오픈AI가 유사한 목소리를 사용했다며 법적 대응을 시사했고, 오픈AI는 즉시 음성 사용을 중단한 바 있습니다.