SBS Biz

기업들이 앞다퉈 코딩 등 실무에 인공지능(AI) 도구를 쓰면서 눈덩이로 불어나는 AI 비용이 AI 전환의 핵심 난관으로 부상했습니다. 


 
로이터 통신은 현지시간 29일 "생산성을 높인다는 이유로 AI 도구를 많이 쓸 것을 권장하던 기업들이 막대한 비용 청구서를 접하면서 내부 고민 끝에 중국산 AI 등 값싼 모델을 찾고 있다"며 이처럼 보도했습니다. 
 
로이터에 따르면 기업용 AI 에이전트(업무 도우미)는 대부분 'AI 토큰'이란 사용량 단위에 비례해 요금이 올라가는 종량제 구조를 채택하고 있습니다. 



많은 기업은 AI 전환이 본격화하자 생산성 경쟁 때문에 AI 에이전트의 사내 사용량을 대폭 늘리는 '토큰맥싱'(tokenmaxxing)을 감행했는데, 이 결과 종량제 비용이 종잡을 수 없이 치솟으며 재무구조를 압박하기 시작했습니다. 

오픈AI와 앤트로픽 등 주요 AI 에이전트 개발사들이 계속 토큰당 비용을 낮추고 있지만, AI 도구의 비약적 발전으로 활용 범위가 늘며 기업이 AI 사용량과 비용을 예측하기 너무 어려워진 것도 큰 문제점으로 꼽힙니다. 

예컨대 차량 플랫폼 기업 우버는 AI 코딩 도구의 사용량이 급증하며 올해 책정한 AI 예산이 불과 4개월 만에 소진되자 불가피하게 AI 토큰 소비량을 제한하는 조처를 발동했습니다 

가트너가 기업을 대상으로 실시한 다른 설문조사 결과를 보면 올해 테크 예산의 인상을 전망한 업체의 비율이 4분의 3에 달했다. 특히 이중 절반에 가까운 곳들은 두 자릿수 증가율을 예상했스니다. 

이에 따라 기업들이 중국산 오픈소스(공개 소프트웨어) AI 등 저렴한 선택지로 빠르게 고개를 돌리고 있다. '오픈 라우터' 등 라우팅(경로 연결) 서비스도 인기가 높아졌습니다. 

라우팅 서비스는 일종의 'AI 오픈 장터'로, 쉬운 작업은 가성비(가격 대비 성능)가 좋은 AI에 선별 배정하고 고난도 업무는 클로드 등 프리미엄 AI 도구에 지정해 비용을 절감하는 것이 골자입니다. 

미국 씨티그룹의 분석에 따르면 오픈 라우터에서 오픈소스 AI용 토큰의 처리 비율은 지난 1월 34%에서 이달 65%로 배 가까이 뛰었습니다. 그만큼 오픈소스 AI의 사용량이 급등한 것입니다. 

오픈 라우터에서 가장 인기가 높은 4대 AI 모델은 모두 중국제로 이 중 1위는 중국의 대표 고효율 AI인 '딥시크'입니다.

이런 중국제 AI 모델의 비용은 100만 토큰 당 최저 18센트로, 미국산 프리미엄 AI 모델의 평균가(4달러)와 비교해 5% 미만에 불과합니다.