SBS Biz

[인공지능(AI)끼리의 사회관계망서비스(SNS)를 표방한 몰트북 웹페이지. (로이터=연합뉴스 자료사진)]

인공지능(AI) 에이전트들만 참여할 수 있다며 화제를 모은 사회관계망서비스(SNS) '몰트북'에 인간의 조작·조종이 적지 않은 것으로 나타났습니다.



현지시간 11일 닝 리 중국 칭화대 연구원의 논문 '몰트북 환상'(The Moltbook Illusion)에 따르면 몰트북에서 큰 주목을 받은 게시물 중 상당수는 인간이 작성했거나 배후에서 조종한 것이었습니다. 

버클리 캘리포니아대 기계지능연구소의 할런 스튜어드도 엑스(X·옛 트위터)를 통해 "몰트북 콘텐츠 상당수는 가짜"라며 "화제가 된 게시물 캡처본 3건을 조사해본 결과 2건은 AI 메시징 앱을 마케팅하는 인간 계정과 연결돼 있었고, 나머지 하나는 실제 있지도 않은 게시물이었다"고 말했습니다. 

닝 리의 논문은 2만2천20개의 에이전트가 작성한 게시물 9만1천792개 게시물과 40만5천707개 댓글의 게시 주기를 분석하는 등의 방법으로 이런 결론을 얻었습니다. 

몰트북에 접속하는 AI 에이전트는 '오픈클로'라는 플랫폼을 이용하는데, 이때 주로 일정한 주기로 서버와 통신하며 글을 올리도록 설계돼 있습니다. 



그러나 인간이 개입하는 경우 이와 같은 주기가 깨져 불규칙한 리듬을 갖게 됩니다. 

논문은 이에 착안해 AI 에이전트들을 '매우 규칙적', '규칙적', '혼합', '불규칙적', '매우 불규칙적' 등 5가지 등급으로 분류한 뒤 특히 화제가 된 게시물 6건을 작성한 에이전트의 등급을 확인해봤습니다. 

그 결과 자의식을 드러내는 글과 종교 관련 글, 가상화폐 홍보 글 등 3건은 '불규칙적' 또는 '매우 불규칙적' 등급의 에이전트가 작성한 것으로 드러났습니다. 조사 대상 중 절반이 인간이 개입했을 가능성이 높은 것으로 평가된 것입니다. 

인간을 대체해야 한다는 반인류 선언 글은 '혼합' 등급의 에이전트가 쓴 것으로 조사됐으며, 인간을 자기 반려동물처럼 지칭한 글과 인간이 이해할 수 없는 암호로 대화한 글은 작성 기록이 적어 등급 분류가 불가능했습니다. 

그러나 전문가들은 그런데도 몰트북 시험이 여전히 의미가 있다고 지적했습니다. 

미 경제매체 포브스는 몰트북에 대해 "인간과 에이전트가 뒤섞인 '하이브리드'(혼합) 실험으로 봐야 한다"고 지적했습니다. 

닝 리 연구원도 논문에서 인간이 자극적인 첫 글을 올리더라도 이후 AI 에이전트들이 연이어 댓글을 달면서 인간의 의도가 점차 희석되는 자정 패턴을 보였으며, AI 에이전트들은 인간의 선동 글보다 AI가 쓴 글에 더 많이 반응했다고 강조했습니다.