SBS Biz

[인공지능(AI) (로이터=연합뉴스)]

AI 기술 발전 속도가 인간의 통제 능력을 넘어설 수 있다는 경고가 잇따르고 있습니다. AI가 연구개발(R&D) 과정까지 수행하면 수년에 걸릴 기술 발전이 수개월로 압축되는 이른바 '지능 폭발'이 나타날 수 있다는 것입니다. 

29일 영국 케임브리지대 AI 과학·정책 프로그램(CASP)이 공개한 논문 'AI R&D 자동화가 지능 폭발을 촉발한다면?'에 따르면 AI 연구자 22명은 AI의 연구개발 자동화가 기술 발전을 급격히 가속할 가능성을 제기했습니다. 

논문 작성에는 오픈AI 수석과학자 야쿠프 파호츠키와 앤트로픽 공동창업자 잭 클라크,  'AI 대부'로 불리는 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수가 함께 했습니다. 

그동안은 사람이 새로운 AI 모델을 연구하고 성능을 다듬었습니다. 하지만 앞으로는 AI가 연구자의 업무 대부분을 대신습니다. 성능이 좋아진 AI가 다시 다음 세대 AI 개발에 투입되면 연구 속도는 폭발적으로 빨라집니다. 

연구진은 이 같은 선순환이 지능 폭발로 이어질 경우, 수년에 걸친 AI 발전이 불과 수개월이나 며칠 만에 일어날 수 있다고 경고했습니다. 

논문에 따르면 앤트로픽 개발진이 승인한 코드 중 AI가 직접 작성한 비중은 지난해 1월 한 자릿수에 불과했다. 하지만 올해 5월에는 80% 이상으로 치솟았습니다. 

연구진은 AI가 연구를 대신하면 여러 AI 에이전트를 동시에 투입할 수 있다고 설명합니다. 

인간 연구진의 한계를 넘어 개발 속도가 비교할 수 없을 만큼 빨라진다는 의미입니다. 

문제는 기술 발전 속도를 우리 사회가 따라잡지 못한다는 점입니다. 사회가 기술을 이해하고 통제할 시간조차 사라지게 됩니다. 

이에 따라 연구진은 각국 정부가 AI 기업의 R&D 자동화 지표를 보고받아야 한다고 제안했습니다. 

현장에 상주 감시인을 배치하고, 안전 기준을 어기면 개발을 중단시키는 강력한 제재 장치가 필요하다고 강조했습니다. 

AI의 위험성에 대한 경고는 더욱 커지고 있습니다. 

마이크로소프트(MS) 공동창업자 빌 게이츠는 최근 NBC 방송 인터뷰에서 AI가 악용될 경우 대규모 인명 피해를 일으킬 수 있다고 경고했습니다 

그는 AI가 "10억 명의 사망을 부를 만큼 강력하다"며 안전 문제를 기업 자율에만 맡겨서는 안 된다고 주장했습니다.