SBS Biz

인공지능(AI) 열풍이 지속되는 가운데 AI 그래픽처리장치(GPU) 임대료가 급락하면서 버블론이 재부상하고 있다고 파이낸셜타임스가 현지시간 19일 보도했습니다.

보도에 따르면 엔비디아의 최신 GPU인 B200의 올 초 임대가격은 시간당 3.20달러에서 지난달 2.80달러까지 약 13% 하락한 것으로 나타났습니다.

GPU 가격은 폭등했지만 임대 단가는 오히려 떨어지는 가격 역전 현상이 나타나고 있는 것입니다. FT는 이와 관련해 AI 인프라 시장의 과열과 경쟁 심화를 보여주는 단적인 예라고 짚었습니다.

엔비디아가 2년마다 신형 아키텍처를 내놓으며 신제품 수요를 이끌고 있지만, 중소 GPU 임대업체들은 이전 세대 칩을 재고로 떠안은 채 저가로 내놓을 수밖에 없는 상황입니다.

아마존 AWS, 마이크로소프트 Azure, 구글, 오라클 등 하이퍼스케일러들이 GPU 임대료를 거의 조정하지 않으면서 시장의 가격 하한선을 사실상 고정시킨 가운데, 자본력이 부족한 중소 GPU 임대서비스 기업들은 수익성 악화 속에 간신히 손익분기점을 유지하며 시장에 매달리고 있는 형국입니다.

FT는 AI 스타트업 대부분이 이미 하이퍼스케일러 인프라에 종속된 탓에 중소 GPU 임대업체들이 연구기관이나 실험적 프로젝트를 수행하는 중소 개발자 등 한정된 고객을 확보하기 위해 덤핑 수준의 가격 경쟁에 내몰리고 있다고 분석했습니다.

일반 기업들이 챗봇이나 문서 요약 등 단순 AI 기능 구현 시 GPU를 임대하기보다 OpenAI나 앤스로픽 등 대형 모델 API를 토큰 단위로 이용하는 방식으로 전환하면서 GPU 직접 임대 수요는 급감하고 시장은 소수 경쟁자가 생존을 걸고 맞붙는 소모전 양상이 벌어지는 셈입니다.

FT는 GPU 시장이 이미 과대평가되어 있을 가능성을 경고했습니다. 2020년 19만9천 달러에 판매된 엔비디아 A100 GPU는 시간당 4달러 수준의 임대 수익이 있어야 손익분기점을 맞출 수 있지만, 현재 평균 임대료는 1.65달러로 절반 이하로 떨어졌습니다.

일부 소규모 임대업체는 0.4달러까지 인하하며 고객 유치에 나서고 있으며 반면 하이퍼스케일러들은 여전히 4달러 이상의 단가를 유지하고 있습니다. 이 괴리는 GPU 시장의 구조적 불균형을 보여주며 실제 수익성을 왜곡시키는 원인이 되고 있습니다.

AI 모델 학습 수요는 폭발적으로 증가하고 있지만, 하드웨어 투자금 회수는 점점 어려워지고 있습니다. 전문가들은 GPU 공급 과잉과 AI 스타트업의 무분별한 확장으로 인해 조만간 업계 전반에 대규모 구조조정이 불가피할 것으로 내다봤습니다.

AI 인프라 붐 초기 자본이 대거 유입되면서 GPU 확보 경쟁이 과열되었고 단기간에 대규모 장비 투자가 집중됐습니다. 그러나 수익화 모델이 검증되지 않은 스타트업들은 지속 가능한 수요를 만들어내지 못했습니다.

결과적으로 GPU 임대료 하락은 수요 둔화보다는 공급 과잉의 신호이자 시장의 정상화 과정으로, 시장은 AI 인프라 확장기에서 효율화와 통합의 단계로 진입하고 있으며 하이퍼스케일러의 독점력은 더욱 강화될 전망입니다.