SBS Biz

[엔비디아의 루빈 GPU (연합뉴스 자료사진)]

엔비디아가 뭉칫돈을 들여 확보한 그록의 기술이 본격적인 상용화 단계에 들어섰습니다.



현지시간 24일 CNBC에 따르면 엔비디아는 그록3 LPX 랙이 본격적인 양산에 들어갔다면서 네오클라우드업체 네비우스의 데이터센터에서 베라 중앙처리장치(CPU) 및 루빈 그래픽처리장치(GPU)와 함께 배치돼 올해 말 가동 될 예정이라고 밝혔습니다.

엔비디아는 지난해 12월 그록과 핵심 기술에 대한 라이선스 계약을 체결했습니다. 규모는 엔비디아가 추진한 거래 중 사상 최대인 200억달러였습니다. 

그록은 메모리 관련 병목 현상을 줄이기 위해 칩 자체에 5억메가바이트(MB)의 고속 S램(SRAM)을 탑재합니다. 그록 칩은 삼성전자가, 엔비디아 GPU는 대만의 TSMC가 생산합니다.

엔비디아는 256개의 그록3 칩을 하나의 LPX 랙에 탑재합니다. 엔비디아에 따르면 그록3 LPX 랙은 AI 벤치마크 업체 아티피셜 애널리시스의 테스트를 기준으로 초당 3400토큰을 처리할 수 있습니다.



엔비디아는 지연시간이 짧은 AI 추론의 중요성이 커지는 가운데 그록 칩 생산과 공급에 속도를 내고 있습니다. 특히 코딩과 같은 작업에서 AI 에이전트의 빠른 반응은 중요한 요소로 꼽힙니다. 

엔비디아는 클라우드 업체들이 저지연 서비스에 대해 보다 높은 비용을 부과할 수 있다고 설명했습니다. 회사의 인공지능(AI) 인프라 책임자인 디온 해리스는 “토큰을 제공하는 업체들은 가장 짧은 지연시간을 요구하는 사용자와 고객에게 프리미엄 서비스 요금제를 제공할 수 있게 된다”고 말했습니다.

엔비디아 경쟁사인 AMD의 경우 올해 초 랙 단위 시스템에 반도체기업 세레브라스의 칩을 통합하겠다고 발표했습니다. 세레브라스 역시 AI 추론의 지연시간을 줄이려 하고 있습니다. 오픈AI가 최근 공개한 울트라패스트 모드는 세레브라스 기술을 기반으로 하며 현재 초당 750토큰 처리를 지원합니다. 

엔비디아는 올해 초 베라루빈 시스템 생산을 시작했고 현재 출하량을 확대하고 있습니다. 젠슨 황 엔비디아 최고경영자(CEO)는 지난 3월 베라루빈과 그록3 LPX를 공개하며 현재 세대 블랙웰 칩과 새로운 베라루빈 시스템을 통해 2027년까지 누적 1조달러의 매출을 올릴 것으로 전망한 바 있습니다.

당시 황은 코딩 애플리케이션을 위해 마련된 데이터센터 공간의 4분의1을 그록 칩에 할당하겠다고 밝혔습니다. “나머지 데이터센터는 모두 100% 베라루빈으로 구성할 것”이라고 말했습니다.