SBS Biz

삼성전자가 인공지능(AI) 반도체의 성능과 전력 효율을 높이기 위해 AI 가속기 위에 고대역폭메모리(HBM)를 직접 쌓는 차세대 3차원 메모리 구조를 공개했습니다.

오늘(5일) 전자 업계에 따르면 삼성전자는 현지시간 4일 미국 캘리포니아주 샌타클래라에서 열린 메모리 행사 'FMS 2026' 기조연설에서 차세대 3D 아키텍처인 'zHBM'을 선보였습니다.



zHBM은 AI 가속기인 xPU 옆에 HBM을 배치하는 기존 2.5D 패키징 구조에서 벗어나, 가속기 상단에 HBM을 수직으로 적층하는 방식입니다. 가로와 세로뿐 아니라 높이인 Z축까지 활용한다는 의미에서 제품명에 'z'가 붙었습니다.

가속기와 메모리 사이의 물리적 거리를 줄여 데이터 병목을 완화하고, 대역폭과 전력 효율을 높이겠다는 구상입니다.

삼성전자는 zHBM을 적용할 경우 차세대 제품인 HBM5와 비교해 GPU당 성능이 최대 8배 향상되고, 전력 대비 성능은 최대 3배 개선될 수 있다고 설명했습니다. 열 저항도 HBM5의 10~25% 수준으로 낮출 수 있을 것으로 내다봤습니다.

김경륜 삼성전자 D램개발실 상무는 "고객사들이 현재보다 10배 높은 메모리 성능을 요구하고 있다"며 "HBM4와 HBM5에 적용되는 기존 2.5D 구조만으로는 이를 달성하는 데 한계가 있다"고 말했습니다.



기존 구조에서는 가속기와 HBM이 기판 위에 나란히 배치돼 데이터가 수평으로 이동해야 하지만, zHBM은 두 칩을 위아래로 연결해 이동 거리를 줄이는 방식입니다.

이 같은 구조는 반도체 내부를 수직으로 연결하는 실리콘관통전극, TSV의 집적도가 높아지면서 가능해졌습니다. TSV 수를 늘려 가속기와 메모리 사이 데이터 이동 통로를 확대하는 원리입니다.

삼성전자는 현재 개발 중인 HBM5에도 파운드리 2나노미터 공정과 게이트올어라운드, GAA 트랜지스터를 적용할 계획입니다. HBM 제품에 GAA 구조가 적용되는 것은 처음입니다.

HBM5에는 열 관리 기술인 'HPB'도 도입합니다. HPB는 HBM 코어 다이 측면에 별도의 열 방출 구조를 배치하는 기술입니다. 삼성전자는 HBM4E를 기반으로 관련 기술 검증을 마쳤으며, HBM5부터 본격적으로 적용할 예정입니다.

삼성전자는 HBM5가 전 세대인 HBM4E보다 성능은 2배 높이고 열 저항은 20% 이상 줄일 수 있을 것으로 보고 있습니다.

이날 삼성전자는 온디바이스 AI용 차세대 낸드 솔루션인 'zNAND-O'도 공개했습니다.

zNAND-O는 V낸드를 4단 또는 8단으로 적층해 기존 낸드보다 대역폭과 응답속도를 높인 제품입니다. D램보다 큰 저장 용량을 확보하면서도 기존 낸드의 낮은 데이터 처리 속도를 보완하는 데 초점을 맞췄습니다.

제품명 뒤의 ‘O’는 스마트폰과 PC 등 기기 내부에서 AI를 구동하는 온디바이스 환경에 최적화됐다는 의미입니다.

삼성전자에 따르면 매개변수 1천200억개 규모의 GPT 모델을 시험 구동한 결과, zNAND-O는 기존 D램 서버와 동일한 초당 토큰 처리량을 기록하면서 비용은 6분의 1 수준에 그쳤습니다.

현재웅 삼성전자 메모리사업부 상무는 "데이터센터에서 처리하던 AI 토큰을 개인 기기에서도 처리할 수 있도록 하는 것이 개발 목적"이라고 설명했습니다.

삼성전자는 400단 이상을 수직으로 적층한 10세대 V낸드인 'V10 BV-NAND'도 업계 최초로 공개했습니다. V10 BV-NAND는 데이터 읽기와 쓰기 성능, 입출력 속도를 전 세대보다 높인 제품입니다.

삼성전자는 HBM과 낸드를 수직으로 쌓는 3D 메모리 기술을 통해 AI 가속기의 성능 한계를 보완하고, 고성능 컴퓨팅과 온디바이스 AI 시장을 동시에 공략한다는 계획입니다.