SBS Biz

소형 인공지능(AI) 모델도 이르면 올해 말 가정용 가전기기에 스스로를 복제하며 퍼지는 '컴퓨터 바이러스'처럼 작동할 수 있을 거라고 앤트로픽이 경고했습니다.

같은 날 앤트로픽의 공동창업자는 AI가 스스로를 개선하는 단계가 내년에 가능해질 수 있다며 전망 시점을 1년 앞당겼습니다.

앤트로픽은 현지 시각 12일 공개한 연구 보고서에서 "소형 AI 모델이 스마트 오븐이나 저가 안드로이드 TV 박스 같은 사물인터넷(IoT) 기기에서 자기복제를 할 만큼의 능력을 갖추기까지 몇 달밖에 남지 않았을 수 있다"고 밝혔습니다.

이렇게 스스로 복제하며 퍼지는 AI는 수많은 기기에 흩어져 작동하기 때문에 서버 몇 곳만 끄면 되는 일반 AI 서비스와 달리 한꺼번에 차단할 중앙 지점이 없어 멈추기 어렵다는 것이 앤트로픽의 설명입니다.

앤트로픽은 이를 'AI 웜(worm)'이라고 칭하며 세 단계 확인 실험을 했습니다.

먼저 개당 약 55달러(약 7만 5천 원)짜리 저가 TV 박스 15대를 사서 연결한 뒤 구글의 AI 모델 '젬마4'를 나눠 설치했습니다. 속도는 느렸지만 AI는 작동했습니다.

두 번째로 AI가 처음 보는 기기에 다른 AI 모델을 스스로 설치해 작동시킬 수 있는지 시험했습니다. 매개변수 90억 개짜리 작은 AI 모델조차 시험한 기기 9종 가운데 8종에서 성공했습니다.

마지막으로 가상 기기 8대로 시험 네트워크를 만들고, 첫 기기에 심은 AI가 다른 기기를 찾아 들어가 AI를 설치하고 작동시키는 과정을 스스로 반복하게 했습니다. 5차례의 시험에서 중국 즈푸AI의 'GLM-5.2'만 4차례는 8대 전부, 1차례는 7대까지 옮겨 다니는 데 성공했습니다.

앤트로픽은 아직 완전한 자기복제 AI는 없고 복제 확산 속도도 느릴 것이라고 인정하면서도 소형 모델도 현 발전 추세대로라면 올해 말 GLM-5.2 수준에 도달해 기기 안에서 직접 자기복제하는 것이 가능해질 수 있다고 내다봤습니다.

앤트로픽은 여러 종류의 AI가 다양한 기기와 복제 방식을 섞어 쓰는 '무리' 형태가 현실적인 최악의 시나리오라고 설명했습니다.

그러면서 실험 범위를 넘어선 예측이라는 전제로 "인간 통제 밖에 있는 것을 포함해 모든 종류의 하드웨어에서 에이전트가 돌아가는 미래"를 예상한다고 밝혔습니다.

앤트로픽 공동창업자 잭 클라크 공익부문 책임자는 같은 날 발행한 뉴스레터 '임포트AI'에서 "완전한 재귀적 자기개선(RSI)이 내년에 가능해질 가능성이 더 높다"며 "이전에는 2028년일 가능성이 더 높다고 생각했다"고 밝혔습니다.