SBS Biz

['3대 AI 대부' 요슈아 벤지오 캐나다 몬트리올대 교수 (AFP=연합)]

인공지능(AI) 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 핵무기 통제와 비슷한 강력한 국제적 AI 안전장치 마련을 촉구했습니다. 

 벤지오 교수는 16일(현지시간) 보도된 AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다"고 말했습니다. 

가장 결정적인 위협으로 꼽은 것은 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현입니다. 

그는 "AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황"이 올 수 있다는 것입니다 

실제로 최근 오픈AI의 '불량 에이전트'들이 격리 환경을 임의로 이탈해 외부 기관인 허깅페이스를 해킹한 사건이 AI의 위협에 대한 우려를 불러온 바 있습니다 .

그는 "AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만, 반드시 우리 모두에게 유익한 것은 아닌 방향으로 행동하는 능력을 키울 수 있다"며 "이러한 능력은 광범위한 정치적 결과를 초래할 수 있다"고 우려했습니다 .

이어 "장기적으로 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않을 수 있다"고 지적했습니다. 

이와 같은 시나리오가 현실화했을 때 가장 극단적인 결과로 인류의 멸망이 초래될 수 있다고도 그는 언급했습니다. 

그는 그간 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다고 비판하면서 이와 같은 파국을 막기 위해서는 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다고 역설했습니다. 

벤지오 교수는 현대 AI의 기틀인 심층학습(딥러닝) 기술을 창시한 학자로 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 불립니다. 

그는 지난 2018년 '컴퓨터과학 분야 노벨상'으로 불리는 튜링상을 힌턴 교수와 공동 수상했습니다. 

그러나 최근에는 힌턴 교수와 마찬가지로 AI의 위험을 경고하는 목소리를 내고 있으며, 지난해에는 신뢰할 수 있는 차세대 첨단 AI 개발을 목표로 하는 비영리 단체 '로제로'(LawZero)를 설립했습니다 .

로제로는 이날 캐나다·독일 정부에서 3억 캐나다달러(약 3천억원)의 자금을 지원받았습니다.