HS효성인포메이션시스템 “Arm 서버·NPU 결합 고효율 AI 추론 인프라로 시장 공략”

생성형 AI·LLM 활용이 본격화하면서 AI 시장의 중심축이 모델 개발·학습에서 업무·서비스 적용·운영의 추론 단계로 이동하고 있다. 이에 따라 기업 인프라 요구도 반복적으로 발생하는 추론 요청을 효율적으로 처리하는 방향으로 맞춰지고 있다. 이 과정에서 비용·전력·공간 제한이라는 제약 조건이 부각되면서 GPU와 함께 NPU에 대한 관심도 커지고 있다.

이 같은 흐름에 맞춰 HS효성인포메이션시스템은 Arm 서버·NPU 결합 고효율 AI 추론 인프라로 기업 AI 서비스 운영 시장 공략에 나설 것이라고 밝혔다. 회사의 Arm 서버 제품은 '그린코어(GreenCore)'이며, 그린코어의 특성은 저전력이다.

HS효성인포메이션시스템은 퀄컴, 퓨리오사 AI, 딥엑스, 모빌린트 등 국내외 주요 NPU 기업과 전반적 협업을 추진하고 있다. 이를 통해 고객 환경에 적합한 인프라 제공을 목표로 하고 있다.

회사는 NPU를 선정할 때 단순히 제품 카탈로그 성능만을 기준으로 하지 않는다고 설명했다. 대신 고객 AI 모델, 서비스 유형, 모델 크기, 동시 사용자 수, 목표 응답속도, 데이터센터 전력·공간 조건을 종합 분석하고, 그 결과에 따라 적합한 NPU 후보군을 제시한다고 설명했다.

그린코어는 국내 Arm 서버 제조기업 엑세스랩과 공동 개발한 Arm 아키텍처 CPU 기반 서버 제품군으로, Arm 서버 그린코어를 통해 NPU 장점을 극대화하는 옵션을 제공한다. 그린코어는 저전력·저발열과 매니코어 병렬처리 효율을 특성으로 내세우며, 전력·냉각·랙 공간 제한이 있는 데이터센터와 보안·데이터 주권을 고려해 온프레미스 AI 서비스를 준비하는 기업·기관을 적용 대상으로 한다. 그린코어는 이들 대상에 효과적인 선택지가 될 수 있다고 전했다.

HS효성인포메이션시스템은 선정한 NPU를 그린코어에 직접 탑재하고, 하드웨어·소프트웨어 호환성과 AI 모델 구동 여부, 운영 안정성을 통합 검증한다. 필요 시에는 AI 솔루션 기업과 연계해 실제 서비스 환경을 반영한 개념검증(PoC)을 진행하며, 고객의 여러 NPU 제품 비교·검증 부담과 고객의 제조사별 개발 도구 직접 비교·검증 부담을 완화하는 것을 목적으로 한다.

HS효성인포메이션시스템은 AI 추론 인프라 도입의 전 과정을 지원할 계획이라고 밝혔다. 지원 범위는 고객 워크로드 분석, NPU 선정, 그린코어 서버 구성, 통합 검증, AI 솔루션 연계, PoC, 구축 및 운영까지 포함한다. 회사는 이를 통해 고객의 AI 도입과 안정적 운영, 확장을 지원한다는 목표를 제시했다.

이어 향후 Arm 서버·GPU·NPU·고성능 스토리지·데이터 레이크·AIOps·AI 솔루션 파트너 생태계를 유기적으로 결합하고, 'HS효성 AI 플랫폼' 포트폴리오를 지속 강화할 방침이라고 밝혔다. 양정규 HS효성인포메이션시스템 대표는 AI 경쟁력의 중심이 모델 개발에서 실제 비즈니스 환경의 안정적·효율적 운영으로 이동하고 있다고 설명했다. 또 그린코어와 다양한 NPU를 결합한 고효율 추론 인프라를 지원하고, 고객의 비용·전력·공간 제약을 고려해 각 워크로드에 적합한 AI 서비스의 신속한 구현을 지원할 방침이라고 밝혔다.

출처: 테크월드뉴스 · 이광재 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=406712

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=406712