SBS Biz

[도널드 트럼프 미국 대통령 (EPA=연합)]

도널드 트럼프 미국 대통령은 현지시간 13일 인공지능(AI) '속도조절론'과 관련, "솔직히 말해 AI(경쟁)에서 이기는 쪽이 승리하기 때문에 나는 이 방식을 유지하고 싶다(I want to keep it that way)"고 말했습니다.



아일랜드를 방문 중인 트럼프 대통령은 이날 자신 소유 둔베그 골프장에서 취재진과 만나 'AI 업계가 속도를 조절하거나 더 많은 규제를 해야 하나'라는 질의에 "우리는 AI에서 중국을 앞서고 있다. 우리는 세계에서 가장 기술적으로 발전한 나라"라며 이같이 밝혔습니다.

트럼프 대통령은 또 "우리는 안전장치를 둘 수 있다. 우리는 이것저것 할 수 있다"면서도 "내 생각에 부각하지 말아야 할 일을 부각하는 부정적 세력이 너무 많다. 그들은 일어나지 않을 일을 부각하고 있다"고 지적했습니다.

최근 앤트로픽, 구글 연구원들이 AI가 인간의 통제를 벗어나 인류의 종말을 이끌 수 있다는 경고를 하며 줄사표를 낸 이후 다리오 아모데이 앤트로픽 최고경영자(CEO) 등 AI 업계 수장들은 'AI 속도조절론'을 주장하고 있습니다.

트럼프 대통령의 이날 언급은 이러한 경고 메시지에도 불구하고 AI 개발을 가속화하는 미국의 현 AI 정책을 유지하겠다는 뜻으로 풀이됩니다.



트럼프 대통령은 "AI에서 승리하는 사람이 승자가 된다. 이건 내가 만든 표현인데 그건 사실"이라고 강조했습니다.

앞서 케빈 해싯 백악관 국가경제위원장 역시 "훨씬 더 큰 위험은 악의적 행위자가 우리를 보호할 수 있는 현재 보유한 AI보다 더 뛰어난 AI에 접근할 수 있다는 점이다. 따라서 우리는 안전을 지키는 동시에 악의적 행위자가 우리보다 더 뛰어난 AI를 개발하고 이를 이용해 생물학 무기 등을 만들지 못하도록 해야 한다"고 밝혔습니다.

트럼프 행정부 'AI 차르'인 데이비드 삭스 백악관 과학기술자문위원장은 전날 밤 엑스에 올린 게시글에서 아모데이 CEO가 주장하고 다른 AI 수장들이 찬성한 속도조절론에 대해 "최첨단 속도를 조절하는 건 버니 샌더스의 '모두 중단하라'는 주장보다 더 지적인 규제 논의를 위한 여유를 만들어 줄 것"이라면서도 "당신들이 알듯이 중국이 글로벌 합의에 동참할 가능성은 매우 낮으며, 이 점도 반드시 고려해야 한다"고 강조했습니다.

마이크 존스 하원의장은 CNN에 출연, "이런 모델을 개발하는 기업들은 자사 제품이 안전하도록 보장해야 할 명백한 책임이 있다"며 삭스 위원장의 게시글을 읽어보길 권했습니다.
 
그러면서 존슨 의장은 "의회가 불쑥 끼어들어 일종의 긴급 모라토리엄(중단)을 강요하는 것을 막아야 한다. 이 일은 올바르고 안전하며 현명하게 이뤄져야 한다"며 AI 규제에 의회가 개입하는 건 해결책이 아니라고 주장했습니다.
 
앞서 아모데이 앤트로픽 CEO는 위험을 예방하기 위해 AI 모델의 성능 향상 속도를 늦춰야 한다는 글을 올리고 여기에 주요 AI 기업들의 수장급 인사들이 잇따라 찬성 의사를 밝힌 바 있습니다.

아모데이도 현지시간 12일 자신의 블로그에 올린 글에서 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "발전은 여전히 빠르게 느껴지겠지만, 확보된 시간을 현명하게 활용해야 한다"고 주장했습니다. 
  
그는 "지난 몇 달간 저는 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다"며 "단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다"고 강조했다습니.

특히 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 중 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건을 두고 "만약 능력이 더 뛰어나지만 정렬실패(misalignment) 수준이 유사한 스웜(에이전트 무리)이 있었다면 재앙적 피해를 초래했을 것"이라고 경고했습니다.

이런 사고들은 AI 모델의 재귀적 자가개선(recursive self-improvement)이 가속화되면서 일어났다는 게 AI 업계의 지적입니다.

최근 3년간 앤트로픽과 오픈AI 양쪽에서 AI 연구를 해오다가 최근 앤트로픽에서 퇴직한 제이컵 콕슨은 지난 8일 소셜 미디어에 글을 올려 양사가 "초지능 AI를 향해 직접 돌진하는 경쟁을 벌이면서 우리 목숨을 걸고 도박을 하고 있다"고 비판하면서 "진지하게 AI를 개발하는 사람들은 이번 10년이 끝나기 전에 우리 모두가 AI 때문에 죽을 수도 있다고 믿고 있다"고 주장해 화제를 모았습니다.

동시에 샘 올트먼 오픈AI CEO는 AI 안전에 대한 우려를 언급하며 2026년에는 오픈AI 기업공개(IPO)를 하지 않을 것이라고 밝혔습니다.