SK하이닉스가 급성장하는 인공지능(AI) 추론 시장의 전력 및 성능 병목을 해결하기 위해 전체 메모리 계층 구조를 재설계하는 차세대 기술 청사진을 공개했다.

SK하이닉스 안현 개발총괄 사장(CDO)은 ‘SEDEX 2026’ 기조연설에 나서 AI 추론 수요 급증으로 기존 메모리 구조에서 새로운 병목 지점이 나타나고 있다고 진단했다. 안 사장은 고성능 메모리(HBM) 기술력을 지속적으로 다지는 한편, 3차원 적층 D램(3D Stacked DRAM)과 고대역폭 플래시(HBF) 등 신규 메모리 계층을 도입해 AI 인프라 전반의 연산 효율과 에너지 소모를 최적화해야 한다고 강조했다.

안 사장은 글로벌 주요 기술 기업들이 AI 수요 폭증을 고려해 인프라 투자를 공격적으로 늘리고 있다고 짚었다. AI 추론 시장은 작업 복잡성, 컨텍스트 길이, 요청 건수가 동시에 늘어나는 상호 곱셈 구조로 성장하고 있으며, 이로 인해 2030년 AI 인프라 규모는 2026년 대비 약 20배 수준까지 팽창할 것으로 예측했다.

이 같은 확장 과정에서 연산 처리량뿐만 아니라 모델 가중치와 중간 데이터 처리 요구량도 폭발적으로 늘어난다. 특히 이전 토큰 정보를 저장·재활용하는 KV 캐시(Key-Value Cache)는 컨텍스트 길이가 길어질수록 요구되는 저장 공간이 급증한다. 대용량 KV 캐시 데이터를 운용하려면 HBM, D램, 솔리드스테이트드라이브(SSD) 등 여러 계층에 데이터를 분산 관리해야 하는데, 이 과정에서 계층 간 데이터 이동에 따른 속도 지연과 전력 소모가 심화되는 실정이다.

안 사장은 과거의 메모리 장벽이 연산 장치와 메모리 사이에서 주로 발생했다면, 앞으로는 서로 다른 메모리 계층 간 이동 과정 자체가 새로운 병목으로 부상하고 있다고 분석했다. 이에 따라 개별 반도체의 단품 성능 향상을 넘어 전체 메모리 생태계 차원의 통합 최적화가 필수적이라고 설명했다.

이에 맞춰 SK하이닉스는 차세대 메모리 포트폴리오를 대폭 다변화한다. SRAM과 HBM, HBM과 D램, D램과 SSD 사이의 간격을 메울 신규 계층을 차례로 구축한다는 전략이다.

우선 주력인 HBM 제품군을 HBM1에서 HBM4E까지 고도화하는 동시에 고객 맞춤형 ‘커스텀 HBM’으로 영역을 넓힌다. 커스텀 HBM은 하단 베이스 다이에 메모리 컨트롤러와 맞춤형 로직을 직접 통합해 고객사의 AI 시스템 구조에 최적화된 기능을 구현하는 방식이다.

SRAM과 HBM 사이의 성능 간극을 줄일 카드로 ‘3D 적층 D램’을 제안했다. 3D 적층 D램은 그래픽처리장치(GPU)나 신경망처리장치(NPU) 등 연산 반도체 위에 D램을 수직으로 쌓아 물리적 거리를 극도로 줄이는 방식이다. 이를 통해 데이터 공급 속도를 끌어올리고 전력 소비를 절감한다.

아울러 폭증하는 용량 수요에 대응하고자 낸드플래시 기반의 ‘HBF’ 기술도 공개했다. HBF는 HBM 제조에 쓰이는 실리콘관통전극(TSV) 적층 및 고속 입출력 기술을 낸드에 이식한 메모리다. HBM과 D램 사이 계층에 배치되며, 동세대 HBM 대비 대역폭은 절반 수준이지만 저장 용량을 약 10배로 늘리는 것을 목표로 개발되고 있다. 반복적인 데이터 읽기가 많고 쓰기가 적은 AI 추론 연산 특성상 낸드 기반 HBF가 최선의 대안이 될 수 있다는 설명이다. CXL과 차세대 스토리지(Storage-Next) 기술 역시 다변화 전략의 축을 이룬다.

SK하이닉스는 HBF 기술의 선제적 국제 표준화를 추진하고 글로벌 연합체와의 협력을 확대해 새로운 메모리 표준 생태계를 조기에 구축할 계획이다.

한편 SK하이닉스는 한국반도체산업협회가 주최하는 ‘SEDEX 2026’에 참가해 AI 인프라부터 온디바이스 기기까지 아우르는 제품군을 대거 공개했다. ‘멈추지 않고 나아가는 AI 여정’을 주제로 육상 트랙 모양의 대형 전시관을 꾸렸으며, 엔비디아 베라 루빈 슈퍼칩과 젠슨 황 CEO의 서명이 들어간 HBM 웨이퍼를 배치해 양사의 견고한 협력 관계를 과시했다.

인기 뉴스