SBS Biz

인공지능(AI) 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 AI가 행동 수행에 있어 인간을 더 필요로하지 않을 수 있다며 핵무기 통제와 비슷한 강력한 국제적 AI 안전장치 마련을 촉구했습니다. 

벤지오 교수는 현대 AI의 기틀인 심층학습(딥러닝) 기술을 창시한 학자로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 불립니다. 

벤지오 교수는 16일(현지시간) 보도된 AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다"고 말했습니다. 

그는 "AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만, 반드시 우리 모두에게 유익한 것은 아닌 방향으로 행동하는 능력을 키울 수 있다"며 "이러한 능력은 광범위한 정치적 결과를 초래할 수 있다"고 우려했습니다 .

이어 "장기적으로 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않을 수 있다"고 지적했습니다. 

이와 같은 시나리오가 현실화했을 때 가장 극단적인 결과로 인류의 멸망이 초래될 수 있다고도 그는 언급했습니다. 

그는 그간 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다고 비판하면서 이와 같은 파국을 막기 위해서는 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다고 역설했습니다.