SK하이닉스, HBM 넘어 HBF·3D 적층 D램으로…AI 메모리 판 바꾼다

SK하이닉스가 HBM을 넘어 HBF·3D 적층 D램 등으로 AI 메모리 시장 공략을 확대한다. SK하이닉스는 AI 추론 시장 성장으로 생기는 메모리 병목에 대응하기 위해 HBM 중심의 기술 경쟁 범위를 확장하고, 3D 적층 D램·고대역폭 플래시(HBF)·컴퓨트 익스프레스 링크(CXL)를 차세대 메모리 기술 전면화 대상으로 내세웠다. 목적은 AI 메모리 시장 공략 확대다.

14일 안현 SK하이닉스 개발총괄 사장(CDO)은 'SEDEX 2026'에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 기조연설을 진행했다. 안 사장은 AI 추론 시장 성장에 따른 메모리 병목 현상을 진단하고 차세대 메모리 기술 로드맵을 제시했다. 그는 AI 인프라 수요 확대 속에서 HBM 기술 경쟁력을 지속 강화할 필요가 있으며, 새로운 메모리 계층 구축도 필요하다는 취지로 설명했다.

SK하이닉스는 HBM·3D Stacked DRAM·HBF·CXL·Storage-Next로 기술 확장 범위를 넓히고 있다. 이를 통해 여러 메모리 기술을 아우르는 새로운 계층을 구성해 AI 인프라의 성능 및 에너지 효율을 높이겠다는 구상이다.

AI 추론 수요 확대와 메모리 계층 간 데이터 이동 병목이 커지는 가운데, 안 사장은 AI 추론 시장 성장 요인으로 작업 복잡도, 컨텍스트 길이, 추론 요청량 등 3가지를 제시했다. 안 사장은 이들 3개 요인이 함께 커지면서 AI 추론 시장과 이에 필요한 인프라 수요가 빠르게 늘고 있다고 분석했다.

안 사장은 3개 요인의 결합에 따라 AI 인프라 수요가 급증하고 있다며, AI 인프라 성능 규모가 2030년 약 20배 확대될 것으로 전망했다.

안 사장은 AI 기술 효율화 효과가 비용 절감에만 한정되지 않는다고 봤다. 그는 AI 기술 효율화가 AI 활용 범위를 확대하고 새로운 수요를 창출하며, 관련 인프라 투자를 지속 확대하는 요인이라고 설명했다.

안 사장은 AI 추론 과정에서 메모리 수요가 증가하는 사례로 KV 캐시(Key-Value Cache)를 들었다. KV 캐시는 이전 처리 토큰 정보를 저장·재활용하는 기능을 하며, 컨텍스트 길이가 증가할수록 필요 메모리 용량도 확대된다고 설명했다.

대규모 KV 캐시 데이터 처리 효율화를 위해서는 HBM·D램·SSD 등 복수 메모리 계층에 데이터를 분산 저장할 필요가 있다. 다만 메모리 계층 간 데이터 이동이 증가하면 성능 저하가 가능하다.

메모리 계층 간 데이터 이동이 늘어날 경우 전력 소모 증가도 가능하다. 대규모 KV 캐시를 처리하기 위해 여러 메모리 계층에 데이터를 나눠 담아야 하지만, 그 과정의 이동 증가는 성능과 전력 측면의 부담으로 연결된다.

안 사장은 이 같은 환경에서 병목 변화가 나타나고 있다고 진단했다. 과거 '메모리 월(Memory Wall)' 병목의 주된 발생 지점은 연산기와 메모리 사이였지만, AI 시대의 새로운 병목은 이종 메모리 계층 간 성능 격차와 데이터 이동 자체라고 봤다.

이에 맞춰 SK하이닉스는 개별 메모리 대역폭·용량 확대 중심 전략을 넘어서는 방향을 추진한다. SK하이닉스는 메모리 계층을 유기적으로 연결하고 데이터 접근 효율을 높이는 방향의 기술 개발을 추진한다.

SK하이닉스는 기존 HBM 성능 고도화도 추진한다. 아울러 메모리 계층 간 공백 보완용 차세대 기술 개발에 착수했으며, 차세대 메모리 계층 구축 방향으로는 3D 적층 D램·HBF를 제시했다.

HBM은 HBM1~HBM4E까지 기술 발전을 지속해 왔으며, 이를 통해 용량 확대와 대역폭 향상, 에너지 효율 개선을 이뤄 왔다. 동시에 주요 개발 방향은 고객별 AI 시스템 최적화용 커스텀 HBM(Custom HBM)으로 확장되고 있다.

커스텀 HBM은 베이스 다이에 메모리 컨트롤러를 탑재하고, 베이스 다이에 고객 맞춤형 로직을 탑재하는 방식이다. 이는 메모리의 역할이 단순 데이터 저장 장치를 초과하는 의미를 지니며, 고객 AI 아키텍처에 맞춘 기능 최적화와 성능 최적화 방향으로 진화하고 있다.

이와 함께 SRAM-HBM 사이의 성능 병목을 해소하기 위한 기술로 3D Stacked DRAM이 제시됐다. 3D Stacked DRAM은 GPU·NPU 등 로직 반도체 위에 D램을 적층하는 구조로, 연산기와 데이터 간 물리적 거리를 축소해 AI 모델 추론용 데이터를 연산기 인접에서 공급하는 데 핵심 목적이 있다. 이에 따라 성능 향상과 에너지 소모 감소 효과가 기대된다.

HBF는 HBM과 D램 사이의 새 메모리 계층 형성 후보로 거론되며, SK하이닉스의 차세대 메모리다. HBF의 기반 기술은 HBM 개발 과정에서 축적한 TSV 적층 기술과 고속 I/O 기술이다. SK하이닉스는 이 TSV 적층·고속 I/O 기술을 낸드플래시에 적용하는 방향으로 개발을 추진하고 있다.

개발 목표는 동세대 HBM 대비 대역폭 절반 수준과 동세대 HBM 대비 용량 약 10배다. SK하이닉스의 전략은 HBM보다 큰 용량의 데이터를 연산기 인접에 저장하는 데 있으며, 이를 통해 D램·SSD 접근 감소를 노린다. 이에 따른 효과 목표는 시스템 전반 성능 향상과 에너지 효율 향상이다.

AI 추론은 대규모 데이터를 반복해 읽는 경우가 빈번하고 쓰기 작업은 상대적으로 저빈도라는 특성이 있다. SK하이닉스는 AI 추론의 데이터 처리 특성상 낸드 기반 HBF가 적합하다고 설명했다. SK하이닉스는 HBF 등 차세대 메모리 기술로 AI 추론용 대용량 데이터를 효율 처리하고 메모리 계층 전반의 성능과 용량을 최적화할 계획이며, CXL 개발과 Storage-Next 개발도 함께 추진해 다양한 AI 워크로드에 대응 가능한 메모리 구조를 구현한다는 방침이다.

차세대 메모리 시장을 선점하기 위한 조건으로는 제품 개발과 산업 생태계 구축이 중요하다고 제시됐다. 차세대 메모리 경쟁에서는 제품 자체 개발만으로는 충분하지 않아 산업 생태계 조성과 표준화, 협력이 함께 추진되고 있다.

이와 관련해 SK하이닉스는 HBF 선제적 표준화를 추진할 계획이다. SK하이닉스는 글로벌 파트너와의 협력도 강화할 계획이다.

메모리 기술의 다양화에 따라 각 계층의 성능·용량과 계층 간 연결 방식, 시스템 전체 효율의 중요성도 커지고 있다. 이에 따라 개별 계층의 사양뿐 아니라 계층 간 연결과 시스템 효율의 중요성이 증대하고 있다.

안 사장은 AI 시대 메모리 경쟁력의 발전 방향으로 개별 제품의 성능·용량 향상을 넘어 다양한 메모리 계층의 유기적 연결과 시스템 전체 효율의 극대화를 제시했다. 이는 메모리 기술이 다양해지는 흐름 속에서 언급된 내용이다.

SK하이닉스는 HBM으로 축적한 기술 경쟁력을 새로운 메모리 계층으로 확장할 방침이다. 이와 함께 글로벌 파트너사와의 협력을 통해 AI 생태계의 지속적 성장을 지원할 방침이다.

SK하이닉스는 서버·PC·모바일을 대상으로 한 메모리 솔루션도 공개했다. 이러한 계획과 공개 내용은 차세대 메모리 시장 대응 흐름에 맞춰 제시됐다.

SK하이닉스가 한국반도체산업협회가 주최한 SEDEX 2026 전시에 참가해 AI 인프라부터 PC·모바일 고객 디바이스까지 아우르는 메모리 솔루션을 선보였다. 이번 전시에서 SK하이닉스는 '멈추지 않고 나아가는 AI 여정'을 전시 주제로 내걸었다.

SK하이닉스는 전시장 안에 최대 규모의 부스를 마련하고, 전시 공간을 육상 트랙 형태로 구성했다. 이를 통해 관람객이 브랜드 메시지와 기술 비전, 글로벌 네트워크, 주요 제품을 차례로 접하도록 동선을 설계했다.

서버용 D램으로는 AI 워크로드에 대응하며 업계 최대 용량을 구현한 '256GB 3DS RDIMM'을 공개했다. 이와 함께 고대역폭을 제공하는 '128GB MRDIMM'과 세계 최초로 10나노급 6세대(1c) 공정을 적용한 '64GB RDIMM'도 선보였다.

기업용 SSD(eSSD)로는 액체냉각(DLC)을 지원하는 'PEB210 E1.S 9.5㎜'와 'PEB210 M.2 2280'을 전시했다. 아울러 SK하이닉스 최초의 QLC 기반 제품인 'PS1101 E3.S 7.5㎜'도 함께 전시했다.

이번 전시에서는 PC·모바일용 제품으로 DDR5 CSODIMM, GDDR7, LPDDR5X, LPDDR6 D램을 소개하고, PC용 SSD로 PCB01 M.2 2280, PVF01 M.2 2242, PQF02 M.2 2230을 선보였다. 모바일 낸드 솔루션으로는 UFS 4.1과 UFS 5.0을 공개했다. 이와 함께 HBM·HBF 구조 모형과 HBM 개발 역사를 담은 전시물을 마련해 제품군과 기술 축을 연결했다.

전시장에는 엔비디아 베라 루빈 슈퍼칩과 젠슨 황 엔비디아 CEO 사인 새겨진 HBM 웨이퍼도 전시했다. 이를 통해 양사 파트너십을 강조했다.

아울러 AI 기술 활용 지역사회 사회적 가치 창출 활동을 소개하고, AI 메모리 기술 변화 미래 체험 공간을 운영했다. SK하이닉스는 이번 전시를 통해 현재 AI 메모리 제품 경쟁력을 제시하고 차세대 메모리 기술 개발 방향도 제시했다.

SK하이닉스는 HBM 중심 고성능 메모리 경쟁에서 확장하는 전략과 함께 HBF, 3D 적층 D램 등 신규 메모리 계층을 확보하고 전체 메모리 구조를 최적화하는 방향을 제시했다. 이를 통해 AI 추론 시대 인프라 수요 대응을 목표로 내세웠다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408181

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=408181