SBS Biz

카카오가 정부 지원으로 확보한 엔비디아 그래픽처리장치(GPU) 'B200' 2천424장 중 2천40장을 자사 데이터센터에 조기 구축했다고 오늘(29일) 밝혔습니다.

정부는 인공지능(AI) 3대 강국을 위한 핵심 인프라인 GPU를 민간에 지원하는 국책사업을 진행했으며 지난 8월 카카오를 최종 사업자로 선정한 바 있습니다.

카카오는 총 2천424장의 GPU B200을 확보·구축하고 이를 5년간 위탁 운영하며 국내 AI 연구·개발 환경을 지원할 계획입니다.

카카오는 경기도 안산시에 위치한 ‘카카오 데이터센터 안산’을 기반으로 대규모 GPU 인프라 구축을 안정적으로 진행하고 있습니다. 자체 데이터센터의 인프라 역량과 GPU 클러스터 구축 및 운영 노하우를 바탕으로 당초 계획 대비 구축 일정을 앞당겼으며, 현재 전체 할당량의 약 84%에 해당하는 255노드(GPU 2천40장)의 인프라 구축을 완료했습니다.

카카오는 "연내 구축 목표치인 64노드 대비 4배를 상회하는 규모"라면서 "공급사와의 긴밀한 협력을 통해 핵심 장비를 조기에 확보했으며, 사전 기술 검증(PoC)을 통해 실제 가동 단계에서 발생할 수 있는 리스크를 사전에 점검하고 최소화해 구축 일정을 앞당겼다"라고 설명했습니다.

데이터센터 안산에는 고집적 서버 운영에 필수적인 안정적인 전력 공급 시스템과 냉각 시스템을 선제적으로 마련했습니다. 고성능 GPU 서버에서 발생하는 열을 효과적으로 관리하기 위해 뜨거운 공기를 격리해 냉각 장치로 바로 순환시키는 ‘열복도 밀폐시스템'을 적용하기도 했습니다.

카카오는 또 국가 AI 컴퓨팅 자원 지원 포털과 연동된 통합 플랫폼을 통해 이용자가 포털에서 카카오엔터프라이즈가 운영하는 카카오클라우드의 AI 플랫폼인 쿠브플로우로 손쉽게 진입할 수 있도록 해 이용자가 AI 모델 개발에 집중할 수 있도록 환경을 구축했습니다.

쿠브플로우는 클라우드 네이티브 환경에서 보다 쉽고 빠르게 머신러닝 워크플로우를 구축하고 실행할 수 있도록 지원하는 플랫폼입니다. 모델 개발, 학습, 배포 및 추론에 이르는 전 과정을 쿠버네티스 환경에서 지원해 연구자가 머신러닝 워크플로우를 손쉽게 자동화하고 클라우드 리소스를 효율적으로 관리할 수 있도록 돕습니다.

카카오는 내년 1월 2일부터 과학기술정보통신부와 정보통신산업진흥원이 베타서비스 공모를 통해 선정한 산·학·연 과제에 최신 컴퓨팅 자원을 제공할 예정입니다. 
 
김세웅 카카오 AI시너지 성과리더는 "카카오의 데이터센터 및 클라우드 역량을 바탕으로 안정적이고 효율적인 AI 개발 환경을 제공해 국내 AI 생태계 발전에 기여해 나가겠다"라고 했습니다.