리벨리온, 엔비디아·SKT와 국산 NPU로 소버린 AI 인프라 구축

리벨리온은 9일 'NVIDIA AI Day'에서 엔비디아, SK텔레콤과 협력해 국산 NPU 기반 소버린 AI 인프라 구축을 추진한다고 발표했다. 이번 협력의 목적은 대한민국 소버린 AI 인프라 고도화다.

핵심 과제는 리벨리온의 차세대 NPU 'R200'을 엔비디아의 'NVLink Fusion' 기술로 연결하고, MGX 랙 아키텍처를 적용한 랙 단위 추론 시스템을 개발하는 것이다. 이 과정에는 리벨리온·엔비디아·SK텔레콤 3사가 함께 참여한다.

SK텔레콤은 AI 데이터센터 구축·운영 경험과 독자 AI 모델·서비스 역량을 활용할 예정이다. 또 개발한 시스템을 실제 데이터센터 환경에 도입할 계획이다.

3사는 AI 추론에서 GPU와 NPU가 효율적으로 연산을 분담하는 분산형(Disaggregated) 추론 구조 구현을 목표로 한다. 대규모 연산이 필요한 프리필(Prefill) 단계는 엔비디아 GPU가 맡고, 답변을 순차 생성하는 디코드(Decode) 단계는 전력 효율이 높은 리벨리온 NPU가 담당하는 방식이다.

AI 추론은 프리필과 디코드 단계로 나뉘며, 프리필 단계는 사용자 질문·문맥 분석과 답변 생성 필요 정보 처리를 맡고, 디코드 단계는 앞선 정보를 기반으로 실제 토큰을 순차 생성한다. 이번 구상은 이처럼 두 단계의 연산 특성이 다르다는 점을 전제로, 두 단계별 연산 특성에 맞춘 이기종 반도체 배치를 목표로 한다.

이 방식이 적용되면 AI 서비스 처리량 향상과 전력 효율 향상을 기대할 수 있다. 그 결과 대규모 AI 서비스 운영 전력 소비 절감과 총소유비용(TCO) 절감으로 이어지고, 소버린 AI 토큰 팩토리(Sovereign AI Token Factory) 구현을 추진하는 구상이다.

이번 협력은 국산 AI 반도체와 글로벌 AI 인프라 생태계를 연결한다는 의미를 갖는다. 리벨리온은 자체 NPU를 독자 개발하고, 엔비디아 NVLink Fusion과 엔비디아 MGX 플랫폼을 활용해 글로벌 인프라와 호환되는 시스템을 구축하는 방향을 제시했다. 이는 국내 AI 반도체 기업의 글로벌 컴퓨팅 생태계 내 사업 기회 확대 기반 마련을 의도한 것이다.

리벨리온은 프론티어 AI 모델 추론용 R200의 개발·상용화를 가속한다. R200은 수조 개 매개변수 규모 전문가 혼합(MoE) 모델 등을 최적화 대상으로 삼고, 저지연·고효율 추론을 지향한다.

리벨리온은 NVLink Fusion을 통해 랙 내부 NPU를 엔비디아 초고속 스케일업 네트워크에 직접 연결할 계획이다. 이를 통해 시스템 성능 극대화를 목표로 하며, R200 시스템 도입 목표 시점은 2028년이다. 또한 엔비디아 인프라 호환 랙 시스템 방향으로 개발하고, MGX 생태계의 검증된 파트너·부품 공급망을 활용해 시스템 구축 위험을 축소하고 글로벌 시장 출시 일정을 단축할 것으로 기대한다.

SK텔레콤은 이번 협력으로 자체 AI 데이터센터·AI 모델·서비스 간 연계 역량 강화를 추진한다. SK텔레콤은 독자 AI 모델인 'A.X K2'와 대국민 AI 서비스인 '모두의 AI'를 보유하고 있으며, 이를 기반으로 국산 NPU의 실제 서비스 적용 가능성을 검증할 방침이다. 아울러 공공·민간 활용 가능한 소버린 AI 인프라 생태계 확대도 추진한다.

과학기술정보통신부는 이번 협력을 지원한다. 지원 방향은 국내 NPU 기업·글로벌 기술 기업 간 개방형 협력을 통한 국가 소버린 AI 인프라 육성이다. 리벨리온은 지난 3월 제1호 국민성장펀드 직접투자 기업으로 선정됐으며, 선정 근거는 기술력·성장성 인정이다.

3사는 협력 목표를 설정했다. 목표는 한국의 언어·데이터·산업별 특화 수요에 최적화된 AI 서비스 대규모 구동 기반 마련이다. 리벨리온은 SK텔레콤의 AI 데이터센터·대국민 서비스를 통해 대형 실증 사례 확보를 추진하는 동시에, 엔비디아 인프라를 활용하는 글로벌 고객사 대상 국산 NPU 기반 시스템 공급 기회를 모색할 계획이다.

박성현 리벨리온 대표는 한국 AI 반도체·모델과 글로벌 기술의 결합이 대한민국 소버린 AI 생태계 확장의 중요한 전환점이라고 밝혔다. 이어 엔비디아·SKT와 차세대 AI 인프라를 공동 설계하겠다고 밝혔고, 한국 기술이 세계 AI를 움직이는 핵심 축으로 성장하도록 하겠다고 밝혔다.

정석근 SK텔레콤 CTO 겸 AI CIC장은 엔비디아 GPU·리벨리온 NPU 강점 결합이 추론 성능·전력 효율 향상 가능성을 높이는 방향이라며, 이는 한국형 소버린 AI 인프라 가능성 검증 의미가 있다고 밝혔다. 이어 SK텔레콤은 AI 데이터센터 구축·운영 경험을 보유하고 있고, 독자 AI 모델과 대국민 서비스 역량도 보유하고 있다며 이를 바탕으로 풀스택 소버린 AI 경쟁력을 강화할 계획이라고 밝혔다.

아시시 카란디카르 엔비디아 NVLink Fusion 부문 부사장은 NVLink Fusion이 한국의 ASIC과 엔비디아 AI 팩토리 플랫폼 결합을 지원하고, 이를 통해 고성능 AI 인프라 구현을 지원한다고 밝혔다. 그는 과기정통부·SK텔레콤·리벨리온과 협력해 한국의 소버린 AI 역량 강화에 기여하고, 차세대 AI 컴퓨팅 생태계 구축에도 기여하겠다는 의지를 밝혔다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=409466

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=409466