SBS Biz

[인공지능(AI) 관련 이미지 (로이터=연합)]

AI(인공지능) 메모리 시장의 주도권 경쟁이 고대역폭메모리(HBM) 성능 개선을 넘어 차세대 기술로 번지고 있습니다.



삼성전자와 SK하이닉스 모두 연산 반도체 위에 메모리를 직접 쌓는 3차원(3D) 적층 구조를 앞세워 '포스트 HBM' 선점에 나섰습니다.

AI 모델 대형화와 추론·AI 에이전트 서비스 확산으로 데이터 처리 속도뿐 아니라 전력 효율과 저장·관리 능력까지 중요해졌기 때문입니다.

24일 업계에 따르면 삼성전자는 AI 반도체 상단에 메모리를 수직으로 적층해 성능과 전력 효율의 한계를 넘는 차세대 3D 메모리 아키텍처에 공을 들이고 있습니다.

최근 국내외 반도체 전시회에서 공개한 'zHBM'과 'z낸드-O(zNAND-O)'가 대표적입니다.



zHBM은 AI 가속기 위에 HBM을 바로 얹어 데이터 이동 거리를 최소화한 구조다. 데이터 병목을 해소하고 전력 효율을 끌어올려, 8세대 제품인 HBM5와 비교해 그래픽처리장치(GPU)당 성능은 최대 8배, 전력 대비 성능은 최대 3배 높일 수 있다는 게 삼성전자의 설명입니다.

z낸드-O는 온디바이스 AI 환경에 특화한 고성능 낸드플래시 솔루션입니다. 기존 V낸드의 수직 적층 기술에 실리콘관통전극(TSV)을 결합해 D램의 용량 부족과 낸드의 낮은 대역폭 문제를 동시에 풀겠다는 구상입니다.

SK하이닉스는 3D 적층 D램을 해법으로 내놨습니다. GPU·신경망처리장치(NPU) 등 연산 반도체 위에 D램을 쌓아 데이터의 물리적 이동 거리를 줄이는 방식입니다.

대규모 AI 모델 추론에 필요한 데이터를 연산기 가까이에서 빠르게 공급해 성능은 높이고 전력 소비는 줄이는 식입니다.

급증하는 용량 수요에 대응할 카드로는 고대역폭 낸드플래시(HBF)를 개발 중입니다. HBM의 빠른 처리 속도와 낸드의 대용량 저장 능력을 결합한 것으로, HBM과 D램 사이에 새로운 메모리 계층을 만드는 개념입니다.

SK하이닉스는 HBF의 대역폭을 같은 세대 HBM의 절반 수준으로 확보하면서 용량은 약 10배로 키운다는 목표입니다.

전력 효율 경쟁도 치열합니다. 두 회사는 올해 상반기 잇달아 LPDDR(저전력 D램) 기반 서버용 메모리 모듈 SOCAMM(소캠)2 양산에 들어갔습니다.

삼성전자는 지난달 차세대 모바일 저전력 D램인 16GB LPDDR6을 업계 최초로 퀄컴 '스냅드래곤 8 엘리트 익스트림 6세대' 플랫폼에서 검증하는 데 성공했습니다.

AI 가속기와 메모리를 빠르게 연결하는 '컴퓨트 익스프레스 링크(CXL)'와 이를 활용한 메모리 모듈(CMM) 기술도 양사의 격전지로 꼽힙니다. CXL은 AI 서버의 메모리 용량을 늘릴 수 있어 메모리 부족 문제의 해법으로 주목받고 있습니다.

업계에서는 경쟁의 축 자체가 바뀌고 있다고 보고 있습니다. 한 업계 관계자는 "AI 메모리 경쟁의 중심이 개별 제품의 성능을 높이는 단계에서 서버 등의 전체적인 구조와 운영 효율을 개선하는 단계로 이동하고 있다"며 "차세대 메모리 기술 상용화 시점과 실제 비용 절감 효과가 향후 양사의 경쟁력을 가를 변수"라고 말했습니다.