SK하이닉스, HBF로 HBM·SSD 사이 메운다

SK하이닉스가 AI 메모리 영역을 넓히고 있다. AI 활용 범위가 학습에서 추론·에이전트로 확대되면서 메모리에 요구되는 조건도 성능·용량 다양화로 바뀌고 있기 때문이다. 이에 따라 SK하이닉스는 HBM·SSD 사이를 잇는 고대역폭플래시(HBF)를 핵심 수단으로 삼고, 워크로드별 이종 메모리 조합을 구체화하는 대응 전략을 추진하고 있다.

SK하이닉스는 18일 이 같은 내용을 발표했다. 회사는 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 'AI 인프라 서밋 2026'에서 HBF와 메모리 내 연산(PIM), 'SALT-KV'를 공개했다. 이는 AI 메모리 영역 확대 추진 방향 아래 차세대 AI 메모리 기술을 함께 선보인 것이다.

SK하이닉스가 제공한 사진에는 관람객들의 SK하이닉스 HBF 구조 모형 관람 모습이 담겼다. 사진 출처는 SK하이닉스다.

HBF는 낸드플래시에 HBM과 같은 실리콘관통전극(TSV)을 적용하는 기술이다. SK하이닉스는 HBF가 낸드의 대용량 기반 특성을 활용하면서 대역폭 향상을 통해 데이터 처리 속도 향상을 목표로 한다고 제시했다. 이를 통해 HBM과 SSD 사이의 성능·용량 간극 축소를 노린다고 밝혔다.

이 같은 새 메모리 계층 필요 배경에는 AI 워크로드 분화가 있다. AI 워크로드 범위는 빠른 응답 필요 초저지연 에이전트 서비스부터 대량 데이터 처리 장문맥 서비스까지로 제시됐다. 이에 따라 요구 메모리 용량·대역폭·지연시간이 서로 달라졌고, SK하이닉스는 기존 GPU-HBM 구조만으로 상이한 요구를 전부 충족하기는 어렵다고 판단했다.

SK하이닉스는 8일 경기 이천캠퍼스에서 열린 '2026 SK하이닉스 미래포럼'에서 '풀스택 AI 메모리' 전략을 공개했다. '풀스택 AI 메모리' 전략 내용은 3D 적층 D램·HBM·HBF 조합이다. 이 조합은 AI 워크로드 적합성을 기준으로 구성된다고 설명했다.

전문가들은 AI가 에이전틱 AI로 발전할수록 상태 정보 관리가 복잡해져 단일 메모리만으로는 대응이 어렵다고 봤다. 윤성로 서울대 교수는 AI의 에이전틱 AI 발전에 따라 상태 정보의 양과 특성이 다양해지고, 상태 정보의 기억·관리 부담이 커지면서 하나의 범용 메모리로 대응하는 데 한계가 있다고 진단했다. 김주영 하이퍼엑셀 대표는 이에 따라 HBM·D램·컴퓨트익스프레스링크(CXL)·SSD 등 복수 메모리 계층을 워크로드에 맞춰 활용할 필요가 있다고 설명했다.

이런 흐름 속에서 SK하이닉스는 HBF와 함께 데이터 처리 방식 차별 기술을 병행 개발하고 있다. PIM은 메모리에 연산 기능을 탑재하는 개념으로, 프로세서와 메모리 간 데이터 이동을 줄이는 데 목적이 있다. SK하이닉스는 행사에서 PIM 기반 'AiM' 칩과 'AiM'이 탑재된 'AiMX' 가속기 카드를 공개했다.

SK하이닉스는 데이터 처리·배치 방식을 바꾸는 기술도 함께 내놓고 있다. 'SALT-KV'는 LLM 연산 중 생성되는 'KV 캐시'를 HBM·D램·SSD에 분산 배치하는 기능을 갖췄다. 이 기술은 데이터의 재사용 가능성과 저장 비용을 고려해 적합한 메모리 계층을 선택하는 방식으로 고성능 메모리 사용 효율을 높인다.

임의철 SK하이닉스 부사장은 AI 인프라 서밋에서 AI 워크로드가 초저지연 에이전트 서비스부터 비용 효율 중시 장문맥 서비스까지 다양화하고 있다고 밝혔다. 그는 기존 GPU-HBM 구조만으로는 이런 새 요구사항을 충족하기 곤란하다며, 변화하는 워크로드에 대응하기 위해 PIM·HBF·SALT-KV 등 하드웨어·소프트웨어를 아우르는 새 솔루션을 준비하고 있다고 설명했다.

임의철 SK하이닉스 부사장은 미래포럼에서 풀스택 AI 메모리 전략을 발표하고, 3D 적층 D램·HBM·HBF를 워크로드에 맞춰 조합하는 방향을 제시했다. 또 AI 서비스·소프트웨어·가속기 업체와 시스템 수준의 공동 설계를 추진하는 전략 내용도 함께 밝혔다.

출처: 아이티데일리 (IT DAILY) · 김병주 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241729

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241729