소프트웨어

오케스트로-퓨리오사AI, 국산 NPU 기반 AI 인프라 사업 확대

테크월드뉴스 · 2026년 9월 21일

(왼쪽부터) 백준호 퓨리오사AI 대표와 김민준 오케스트로그룹 의장. [사진=오케스트로]

✦ AI 요약

오케스트로그룹과 퓨리오사AI가 국산 NPU 기반 AI 인프라 사업 확대를 위해 협력한다.

오케스트로는 AI 추론 운영 플랫폼 '콘체르토 AI(CONCERTO A.I.)'의 지원 범위를 GPU에서 퓨리오사AI 2세대 NPU '레니게이드(RNGD)'로 넓혔다.

양사는 RNGD 기반 AI 인프라의 성능·안정성을 검증하고, 고객 실증과 실제 구축 사업으로 연계할 계획이다.

오케스트로그룹과 퓨리오사AI가 국산 NPU 기반 AI 인프라 사업 확대를 위해 협력한다. 양사는 기존 GPU 중심 AI 추론 운영 환경의 적용 범위를 퓨리오사AI 2세대 NPU '레니게이드(RNGD)'까지 확장하려 한다.

이를 위해 양사는 올해 초부터 RNGD와 오케스트로 AI 인프라 소프트웨어의 호환성과 주요 기능 검증을 진행했다. 또 퓨리오사AI 'NXT RNGD 서버'의 오케스트로 AI 인프라 환경 구축도 진행했다.

아울러 양사는 RNGD 기반 거대언어모델(LLM)의 실제 서비스 환경을 대상으로 배포·서빙·운영 기술을 단계적으로 구현했다. 이 같은 기술 검증 결과를 고객 실증과 실제 구축 사업으로 연계하는 방안도 추진한다.

오케스트로그룹은 지난 18일 서울 강남구 퓨리오사AI 본사에서 'NPU 기반 AI 인프라 및 플랫폼 기술·사업 협력' 업무협약(MOU) 체결을 발표했다. 이번 협약은 기술 검증 결과의 고객 실증·실제 구축 사업 연계 추진을 위한 것이다.

오케스트로가 AI 추론 운영 플랫폼 '콘체르토 AI(CONCERTO A.I.)'의 지원 범위를 기존 GPU에서 RNGD로 확대했다. '콘체르토 AI(CONCERTO A.I.)'는 AI 모델 배포·서빙·컴퓨팅 자원 관리·서비스 모니터링을 통합 지원하는 플랫폼이다. 이번 확대는 NPU 환경에서 LLM 서빙 체계를 직접 구성해야 하는 부담을 완화하는 데 초점을 맞췄다.

오케스트로는 모델과 가속기 자원을 하나의 플랫폼에서 관리하도록 하고, RNGD 기반 AI 서비스의 구축·운영 용이성을 높이도록 했다. 이를 위해 '콘체르토 AI(CONCERTO A.I.)'에 지능형 라우팅(Intelligent Routing) 기능과 토폴로지 기반 스케줄링(Topology-aware Scheduling) 기능을 적용했다.

지능형 라우팅과 토폴로지 기반 스케줄링은 요청 특성과 가속기 자원을 고려한 추론 경로 구성을 지원한다. 이를 통해 GPU·NPU 등 이기종 AI 가속기를 서비스·워크로드 특성에 맞춰 활용할 수 있도록 지원한다.

이번 협약은 앞서 이어온 기술 검증을 실제 고객 사업 확장으로 넘기는 데 초점을 맞춘다. 이를 위해 양사는 다양한 AI 모델·워크로드를 대상으로 RNGD 기반 AI 인프라의 성능·안정성을 검증하고, 고객을 대상으로 벤치마크테스트(BMT)와 실증을 진행해 구축·운영 모델을 구체화할 계획이다.

양사는 공공·금융·기업 시장을 사업 대상으로 삼고, 고객별 AI 서비스·워크로드 특성에 맞춘 RNGD 기반 인프라를 공동 설계·제안할 방침이다. 또 BMT·실증 결과를 실제 구축 사업과 연계하고, 산업별 적용 사례를 확보하는 방안도 추진한다.

중장기적으로는 GPU·NPU를 병행 활용하는 이기종 AI 인프라로 협력 범위를 확대한다. 이와 함께 모델·추론 런타임·AI 가속기를 대상으로 운영·모니터링 기술을 고도화하고, 워크로드 특성별로 적합한 가속기를 활용할 수 있는 환경을 마련하는 것이 목표다.

오케스트로는 이번 협력 결과물을 자체 AI·클라우드 인프라 소프트웨어와 연계한다. 연계 대상 소프트웨어는 서버 가상화 솔루션 '콘트라베이스(CONTRABASS)', 클라우드 네이티브 운영 관리 플랫폼 '비올라(VIOLA)', 멀티·하이브리드 클라우드 통합 관리 플랫폼 '오케스트로 CMP(OKESTRO CMP)'다. 이를 기반으로 NPU 포함 AI 컴퓨팅 자원 관리 범위를 확대할 계획이다.

양사는 'K-AI 인프라' 분야 협력을 지속한다. 'K-AI 인프라'는 국산 AI 모델·AI 가속기·인프라 소프트웨어 연계를 범주로 한다. 협력 방식은 퓨리오사AI의 RNGD와 오케스트로의 AI 인프라 기술을 결합하는 것이다. 양사는 이를 통해 공공·금융·기업의 프라이빗 AI 구축 수요와 소버린 AI 구축 수요에 대응할 계획이다.

이 같은 흐름 속에서 백준호 퓨리오사AI 대표는 기업·공공 환경에서 AI 확산이 이뤄지면서 AI 가속기의 성능·전력 효율과 함께 다양한 AI 워크로드의 안정적 배포·운영을 위한 소프트웨어·인프라 역량의 중요성이 커지고 있다고 밝혔다. 이어 오케스트로의 AI 인프라 소프트웨어 스택과 RNGD의 결합을 추진해 대규모 AI 데이터센터·토큰 팩토리 운영이 가능한 풀스택 솔루션 구현과 상용 구축 확대를 추진하겠다는 입장을 밝혔다.

김민준 오케스트로그룹 의장은 양사가 올해 초부터 오케스트로그룹·퓨리오사AI 기술 협력을 지속해 왔으며 NPU에서 AI 모델 배포·서빙·운영 기반을 마련했다고 설명했다. 이어 김민준 오케스트로그룹 의장은 이번 협약을 계기로 기술 검증을 고객 실증·사업화로 연계하고 공공·금융·기업 시장에서 새로운 AI 인프라 적용 사례 창출을 추진하겠다고 말했다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407212