KT, 국산 NPU‧LLM 일체형 플랫폼으로 기업 AX ‘정조준’
아이티데일리 (IT DAILY) ·
✦ AI 요약
KT가 19일 기업용 소버린 AI 어플라이언스 'KT NPU LLM 스테이션(Station)'을 출시했다.
이 제품은 한 서버에 리벨리온 NPU '아톰 맥스(ATOM-MAX)'와 KT의 '믿음 K 2.5 프로(Pro)'를 통합했고, 운영 API 플랫폼도 탑재했다.
KT는 고객사 내부 설치, 데이터 사내 처리, AI 연산 사내 처리 구조를 적용해 공공·국방·제약·제조·금융 등 규제 산업을 겨냥한다고 밝혔다.
KT가 19일 기업용 소버린 AI 어플라이언스 'KT NPU LLM 스테이션(Station)'을 출시했다. 어플라이언스는 하드웨어·소프트웨어 결합 완제품형 장치를 뜻한다. KT는 국산 AI 반도체와 국산 언어모델을 서버 한 대에 묶은 형태의 일체형 제품을 내놓았다.
'KT NPU LLM 스테이션(Station)'은 하나의 서버에 국산 AI 반도체와 국산 언어모델을 통합한 구성이다. 탑재 반도체는 리벨리온 NPU '아톰 맥스(ATOM-MAX)'다.
탑재 LLM은 KT가 독자 개발한 '믿음 K 2.5 프로(Pro)'다. 이 제품에는 운영 응용프로그램 인터페이스(API) 플랫폼 등도 함께 탑재됐다.
이 제품은 AI 반도체·모델·운영 플랫폼 핵심 기술의 국내 기술 구성으로 설계돼 정부 소버린 AI 정책 방향의 기업 현장 즉시 구현이 가능하다고 볼 수 있다. KT는 이 제품의 핵심 요소로 보안을 꼽고, 고객사 내부 설치 방식과 모든 데이터의 사내 처리, 모든 AI 연산의 사내 처리 구조를 적용했다.
이에 따라 망분리 등 규제와 강한 보안 요구로 해외 생성형 AI 도입이 어려웠던 산업을 대상으로 하며, 공공·국방·제약·제조·금융 등 규제 산업을 겨냥한다. 이 같은 구조는 보안 요구가 높은 환경에 맞춰 설계된 점이 특징이다.
또한 별도 구축 과정 불필요로 도입 부담 완화를 꾀했고, 설치 당일부터 사내 문서 기반 질의응답(RAG) 등 AI 기능 즉시 사용 가능하다. KT는 추론 특화 NPU 채택과 동급 GPU 서버 대비 전력 효율 우위, 업계 표준 API 제공을 설명하며, 기존 AI 서비스의 접속 정보만 변경하면 코드 수정 없이 호환 사용 가능하다고 밝혔다. 향후에는 활용 영역의 피지컬 AI용 엣지 데이터센터(Edge DC) 확대를 계획하고 있다.
KT는 자사가 개발한 AI 에이전트를 차례로 적용할 계획이며, 이 과정에서 업무 자동화 에이전트 'K-Claw(가칭)'도 포함한다. KT는 에이전트 전문 개발사와 협력할 계획이며, 이를 통해 적용 범위를 고객 맞춤형 구축 사업으로 확장할 예정이다.
출처: 아이티데일리 (IT DAILY) · 성원영 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241076
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 아이티데일리 (IT DAILY)
원문 확인이 기사는 아이티데일리 (IT DAILY) 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.