엑시나, OCP 2026서 CXL 메모리 솔루션 공개…AI 추론 병목 줄인다

엑시나(XCENA)는 AI 추론 과정의 메모리 병목과 데이터 이동 부담을 완화하기 위한 CXL 기반 메모리 솔루션 기술을 공개했다고 16일 밝혔다.

엑시나는 미국 산호세 컨벤션센터에서 열린 'OCP 글로벌 서밋 2026(OCP Global Summit 2026)'에 참가했다. 행사 기간은 12~15일(현지시간)이었다. OCP 글로벌 서밋은 글로벌 클라우드·데이터센터·반도체 기업·기술 전문가가 참여해 차세대 컴퓨팅 인프라 기술·표준을 논의하는 행사다.

엑시나는 이번 행사에서 CXL 기반 메모리 솔루션 'MX1'을 활용한 AI 추론 데모와 차세대 메모리 인프라 기술을 공개했다. 현장에서는 MX1 활용 AI 추론 데모 2종을 시연했다.

이 가운데 SK하이닉스 부스(A2)에서는 여러 AI 추론 서버의 CXL 메모리 풀 기반 KV 캐시 공유 기술을 시연했다.

AI 추론 환경에서 KV 캐시는 AI 모델의 선행 처리 정보를 저장하고 답변 생성 시 이를 재사용하는 역할을 한다. 기존 KV 캐시 운용은 서버별 저장 방식이었다. 이에 대해 CXL 메모리 풀 기반 KV 캐시 공유는 여러 서버가 공동 활용할 수 있게 하며, 그 효과로 중복 저장 감소와 서버 간 데이터 이동 부담 완화가 제시됐다.

엑시나는 MX1의 데이터 인접 프로세싱(Near-Data Processing·NDP) 기능을 활용해 검색증강생성(RAG) 벡터 검색 가속 기술을 시연했다. 이 가속 방식은 대규모 데이터를 호스트 프로세서로 반복 전송하지 않고, 데이터가 저장된 메모리에서 직접 검색을 수행하는 방식이다. 이에 따라 직접 메모리 검색 효과로 데이터 이동 감소가 제시됐다.

AI 추론 서비스가 확대되면서 메모리 용량, 대역폭, 데이터 이동 유발 지연, 시스템 자원 소모가 주요 과제로 부상했다. 엑시나는 메모리 공유와 데이터 인접 연산의 결합에 초점을 맞췄다. 목표는 병목 완화와 AI 인프라 효율 제고다.

엑시나와 SK하이닉스는 CXL 하이브리드 아키텍처의 AI 워크로드 적용을 위한 기술 협업을 진행하고 있다. 양사는 MX1의 SSD 메모리 확장 기능인 인피니트메모리(InfiniteMemory®)를 활용했다. 검증 결과, 기존 CMM-D 대비 메모리 용량 확장성이 향상됐고 SSD 대비 우수한 성능을 구현할 수 있음을 확인했다.

양사는 해당 결과를 기반으로 실제 AI 서빙 환경에서의 적용 가능성 검증을 진행하고 있다.

SK하이닉스는 이번 행사에서 MX1 칩을 활용한 CXL 하이브리드 메모리(Hybrid Memory)와 RDMA(Remote Direct Memory Access) 기반 아키텍처를 공개했다. RDMA는 원격 시스템 메모리에 직접 접근하는 기술로, 데이터 전송 과정의 프로세서 개입을 줄인다.

양사 협력의 초점은 메모리 확장성과 데이터 접근 효율을 동시에 확보하는 데 있다. 협력의 목표는 AI 추론 환경의 메모리 병목을 완화하는 것이다.

엑시나는 행사 기간 글로벌 기업들과 차세대 메모리 기술·소프트웨어 생태계 논의에 참여했다. 엑시나는 행사 기간 기술 논의와 발표·토론 일정을 함께 소화했다.

14일에는 김주현 엑시나 최고제품책임자(CPO)가 발표를 진행했다. 발표 주제는 '데이터 인접 연산을 위한 범용 병렬 프로그래밍(Bringing General-Purpose Parallel Programming to Near-Data Processing)'이었다. 김주현 CPO는 마벨·삼성전자·SK하이닉스·고트브라스 테크놀로지스와 함께 하이퍼스케일 이기종 AI 인프라용 오픈 미들웨어를 주제로 한 패널 토론에도 참여했다.

15일에는 엑시나와 삼성전자가 공동 발표를 진행했다. 공동 발표 주제는 '에이전틱 AI를 위한 분리형 CXL 메모리 아키텍처: 동적 풀링·공유 및 PNM 오프로딩(Disaggregated CXL Memory Architecture for Agentic AI: Dynamic Pooling, Sharing, and PNM Offloading)'이었다.

대상 아키텍처는 메모리 자원 동적 할당·공유 방식과 프로세서 인접 메모리 연산(PNM) 오프로딩을 다룬다. 이 아키텍처의 핵심 목적은 에이전틱 AI 환경의 메모리 자원 활용도 제고와 연산 효율 개선이다.

이 아키텍처는 다양한 작업의 연속 수행이 이뤄지는 환경을 겨냥한다. 에이전틱 AI처럼 여러 작업이 이어지는 환경에서 메모리 배분·공유와 PNM 오프로딩을 다루는 문제의식은 OCP 컴포저블 메모리 시스템(CMS) 서브프로젝트 기술 업데이트 세션으로 이어졌다.

15일 그랜트 맥키(Grant Mackey) 엑시나 수석 엔지니어(Distinguished Engineer)는 마이크로소프트·씨게이트·메타 관계자들과 OCP 컴포저블 메모리 시스템(CMS) 서브프로젝트 기술 업데이트 세션에 참여했다. 세션 주제는 'AI 및 범용 컴퓨팅 플랫폼의 메모리 월 문제 해결(Addressing Memory Wall Challenge for AI and General Compute Platforms)'이었으며, 이 자리에서는 AI·범용 컴퓨팅 환경에서 증가하는 메모리 용량 요구 대응을 위한 CMS 기술 개발 현황, AI·범용 컴퓨팅 환경에서 증가하는 메모리 대역폭 요구 대응을 위한 CMS 기술 개발 현황, CMS 기술의 향후 방향이 함께 논의됐다.

김진영 엑시나 대표는 AI 인프라의 성능과 효율을 높이려면 연산 성능 외에도 메모리를 효율적으로 활용하고 데이터 이동을 최소화하는 것이 핵심이라고 설명했다. 그는 이러한 관점에서 이번 행사에서 MX1의 실제 AI 워크로드 활용 가능성을 제시했으며, 향후에는 생태계 전반 파트너들과 협력해 차세대 AI 메모리 인프라를 발전시켜 나가겠다는 뜻을 밝혔다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408302

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=408302