AI 가속기 상단 수직 증축 3D 구조
칩·메모리 데이터 이동 거리 좁혀
추론으로 옮겨 가는 기술 변화 대응
낸드 400단 적층 기술은 업계 최초
온디바이스 최적화 솔루션 선보여

삼성전자가 인공지능(AI) 기반 시설의 핵심 요소인 고대역폭메모리(HBM)보다 데이터 처리 속도와 전력 효율 등을 대폭 개선한 ‘zHBM’을 공개했다. 또 AI 추론 시대에 수요가 높아지고 있는 고성능 낸드플래시 기술 ‘zNAND-O’도 함께 선보였다. 차세대 메모리 설계 기술 시장을 주도하겠다는 구상이다.

김경륜 삼성전자 D램개발실 상무는 4일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 메모리 행사 ‘FMS 2026’ 기조연설에서 zHBM을 공개했다.

통상 HBM은 AI 가속기 옆에 메모리를 병렬로 배치하지만, zHBM은 AI 가속기 상단에 메모리를 수직으로 쌓아 올리는 3차원(3D) 구조다.

이를 통해 칩과 메모리 간 데이터 이동거리를 더욱 낮춰 대역폭과 전력 효율을 높일 것으로 기대된다.

zHBM은 차세대 제품인 8세대 HBM5와 비교해도 그래픽처리장치(GPU)당 성능이 최대 8배, 전력 대비 성능은 최대 3배 개선된다는 게 삼성전자의 설명이다.

또한 삼성전자는 AI 고도화 흐름을 타고 HBM과 함께 수요가 늘고 있는 낸드플래시의 차세대 기술도 선보였다.

이진엽 삼성전자 플래시개발실 부사장은 온디바이스(기기내장형) AI 환경에 최적화한 차세대 낸드 솔루션 ‘zNAND-O’를 공개했다. zNAND-O는 낸드를 수직으로 쌓은 vNAND 기술을 활용해 4단 또는 8단 반도체 칩을 3D로 패키징한 제품이다.

삼성전자는 이 기술이 고용량, 고대역폭, 빠른 응답속도를 구현해 실시간으로 대규모 데이터 처리를 가능하게 한다고 설명했다. 특히 zNAND-O는 기존 서버와 동일한 연산량으로도 비용은 6분의 1로 절감할 수 있다고 밝혔다.

삼성전자는 전시공간에 zHBM과 zNAND-O 모크업(실물 모형)을 선보이기도 했다. 한 글로벌 AI 서버 기업 관계자는 “메모리 자체가 데이터 저장 역할을 넘어 연산 효율까지 높이는 방향으로 진화하고 있다는 점이 인상적이었다”고 말했다고 삼성전자 뉴스룸이 전했다.

또 400단 이상의 초고적층 차세대 낸드 제품인 ‘V10 BV-NAND’(10세대)도 업계 최초로 공개했다. 삼성전자는 10세대 낸드 제품이 전 세대(V9) 대비 메모리 집적도가 58% 향상돼 동일 면적에 더 많은 데이터를 저장할 수 있고, 데이터 읽기·쓰기·입출력 속도도 개선됐다고 밝혔다.

에이전트 AI 확산과 함께 AI 모델의 무게중심이 ‘학습’에서 ‘추론’으로 옮겨가면서 메모리 기술 혁신도 최대 과제로 떠오르고 있다. AI 추론 성능은 이전 대화 내용과 중간 계산 데이터를 저장하는 일종의 ‘임시 기억장치’(KV 캐시)를 얼마나 효율적으로 운용하느냐에 달렸다.

방대한 데이터의 저장과 전달이 중요해지면서 메모리 설계 기술의 대대적인 혁신 요구가 거세지고 있다.

삼성전자와 SK하이닉스도 AI 메모리 병목현상을 해소하기 위해 고성능·고효율 차세대 메모리 기술 개발에 총력을 쏟고 있다. 이번 ‘FMS 2026’ 행사에 참석한 SK하이닉스도 전날 미국 낸드플래시 업체 샌디스크와 함께 낸드를 수직 적층한 ‘고대역폭플래시’(HBF) 표준 규격을 업계 최초로 공개했다.