SBS Biz

[구글 제미나이 (EPA=연합뉴스)]

구글이 인공지능(AI) 성능을 좌우해온 '메모리 병목'을 뚫기 위해 제시한 차세대 알고리즘 '터보퀀트'가 메모리 반도체 시장에 충격을 주는 가운데 효율중심의 AI 시대가 펼쳐지고, 기존 반도체 회사도 AI 칩회사로 변모할 것이라고 전망했습니다.

터보퀀트 연구에 참여한 한인수 한국과학기술원(KAIST) 전기 및 전자공학부 교수는 27일 KAIST를 통해 "AI가 고용량 중심에서 고효율 중심으로 전환되면서, AI는 더 저렴해지고 빠르게 확산하는 동시에 반도체 수요 역시 질적으로 고도화될 전망"이라고 밝혔습니다.

터보퀀트는 최대 6배까지 메모리를 줄이면서도 성능을 유지하는 차세대 양자화 알고리즘인데, AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤 벡터 간 유사도를 계산해 작동하는데, 이 과정에서 고정밀 데이터가 필요해 막대한 메모리 자원이 필요한데, 터보퀀트는 이를 더 적은 비트로 압축해 표현하는 양자화 기술을 활용했습니다.

소수점 데이터를 정수로 근사하는 방식으로 핵심 정보를 유지하면서도 저장 용량과 연산 부담은 크게 줄이면서도 정확도 저하는 거의 없는 것으로 나타났고, 터보퀀트는 1단계에서 입력 데이터를 무작위로 회전시킨 뒤 각 요소를 개별 양자화해 데이터 내 극단값을 줄여 압축 효율을 높입니다.

이 방식은 한 교수가 기존에 참여한 '폴라퀀트' 연구에서도 활용됐으며, 이어 2단계에서는 1단계 오차를 다시 한번 양자화해 데이터를 -1, 1 값으로만 표현하는 QJL(Quantized Johnson-Lindenstrauss) 기법으로 연산 효율을 극대화합니다.

한 교수는 이번 기술이 반도체 메모리 시장에 중장기 활력을 불어넣을 것으로 기대했는데, 단기적으로 동일 AI 모델 구동에 필요한 메모리 용량이 줄어들어 수요 성장이 둔화하는 것으로 보이지만 AI 대중화의 기폭제가 될 수 있다고 전망했습니다.

한 교수는 "이번 연구는 AI 메모리 사용량 증가 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다"며 "대규모 AI 모델을 더욱 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다"고 말했습니다.