Arm, ‘AI 포털’ 공개…AI 에이전트도 Arm 최적화 기술 활용한다

Arm이 AI 애플리케이션 개발을 지원하기 위해 'Arm AI 포털'을 공개했다. 대상 범위는 클라우드·엣지·피지컬 AI를 포함한 Arm 컴퓨팅 플랫폼 전반이다.

에이전틱 AI의 확산 범위가 클라우드를 넘어 엣지·피지컬 AI로 확대되면서 AI 애플리케이션 개발 과정의 복잡성도 증가했다. 이에 따라 개발자들은 다양한 모델·런타임·하드웨어 환경별로 적합한 모델을 탐색하고, 성능을 비교한 뒤 최적화해야 하는 과제를 안게 됐다.

Arm은 이런 개발 부담을 경감하기 위해 Arm AI 포털을 마련했다. 이 포털에서는 성능·정확도 데이터를 포함한 사전 최적화 모델을 탐색할 수 있고, 지연시간·메모리 사용량·모델 크기를 비교할 수 있다.

Arm AI 포털은 코드 예제와 배포 워크플로우도 제공한다. 지원 분야는 언어·음성·비전·신경망 그래픽이며, 출시 시점에는 알리바바 큐원(Qwen), 구글 젬마(Gemma), 울트라리틱스 욜로(YOLO) 모델을 제공한다.

대상 모델은 ExecuTorch, LiteRT, ONNX-RT를 활용 런타임으로 삼아 운영된다. 이들 모델은 알리바바, 라즈베리 파이, 울트라리틱스의 생태계 파트너 지원을 기반으로 한다. Arm AI 포털이 제공하는 최적화 모델은 실제 Arm 기반 환경에서의 성능 향상 사례도 제시한다.

개발자는 허깅페이스를 통해 Arm 최적화 모델을 활용할 수 있다. 코딩 에이전트는 MCP를 통해 AI 포털 리소스에 접근할 수 있다. 이를 통해 기존 개발 환경을 유지한 상태에서 Arm 최적화 AI 모델과 관련 리소스를 활용할 수 있다.

Arm은 향후 자체 개발 모델과 독점 모델을 AI 포털로 가져올 수 있도록 할 예정이다. 아울러 Arm 기반 환경에서 성능 분석과 최적화가 가능한 도구도 제공할 예정이다.

에이전트-레디 AI 리소스는 정식 출시 전에 얼리 액세스로 이용할 수 있다.

Arm 기술을 적용한 개별 AI 모델의 성능 향상 사례로는 먼저 Qwen3-TTS가 제시됐다. Qwen3-TTS는 비보 X300 스마트폰에서 단일 스레드 실행·혼합 양자화를 적용해 4배 이상 속도 향상을 보였다. 이 과정에서는 Q8_0 토커·코드 예측기를 활용했으며, 성능 가속 수단으로는 Arm SME2(Scalable Matrix Extension 2)가 사용됐다.

Ultralytics YOLO26n도 비보 X300 스마트폰·라즈베리 파이 5 적용 사례가 함께 제시됐다. Ultralytics YOLO26n은 두 기기에서 각각 Arm 기술을 적용해 40% 이상 성능 향상을 보였다. 비보 X300의 YOLO26n 최적화는 SME2·FP16 기반 단일 스레드 실행으로 이뤄졌고, 라즈베리 파이 5의 YOLO26n 최적화는 NEON·FP16·INT8 혼합 양자화로 이뤄졌다.

Arm AI 포털의 대상 범위는 특정 디바이스에 한정되지 않는다. 대상은 클라우드·엣지·피지컬 AI를 포함한 Arm 컴퓨팅 플랫폼 전반이다. 개발자는 목표 플랫폼별 AI 모델을 탐색할 수 있고, 최적화된 소프트웨어를 활용할 수 있다. 예시로는 로보틱스용 비전 모델, 스마트폰 구동 생성형 AI, 클라우드 CPU 실행 작업별 LLM이 제시됐다.

Arm은 SVE·SME·신경망 가속기 등 Arm 컴퓨팅 기술과 최적화 소프트웨어를 AI 포털로 연계해 개발 자원 접근성을 높일 방침이다. 대표 사례로는 Arm CSS for Mobile 2가 제시됐다. 개발자는 AI 포털을 통해 SME2로 가속된 모델과 신경망 가속기를 탑재한 GPU 관련 리소스를 활용할 수 있다.

Arm은 AI 포털로 기존 소프트웨어 생태계의 적용 범위를 AI 개발 영역으로 확대할 방침이다. 이 포털의 기반에는 Arm이 수십 년간 구축한 소프트웨어 생태계가 있다. Arm은 이를 통해 2200만 명 이상의 개발자와 에이전트를 지원하고, 대상 하드웨어에 최적화된 AI 소프트웨어의 탐색·활용 용이성을 높이려 한다.

Arm은 개발자뿐 아니라 AI 에이전트도 machine-discoverable 형태의 모델·성능 데이터·워크플로우를 탐색할 수 있도록 하는 전략을 추진한다. 이를 통해 에이전틱 AI 시대에 맞는 개발 환경을 제공하는 것이 목표다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407389

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407389