Arm, 엔비디아와 에이전틱 AI 보안 인프라 구축

에이전틱 AI가 질의응답 중심에서 스스로 계획하고 도구를 활용해 실행하는 단계로 진입하면서, 이에 따른 컴퓨팅 인프라의 역할도 확대되고 있다. 에이전트는 지속 실행되며 데이터와 시스템에 접근하는 특성이 있어, 인프라에는 워크로드 처리 성능과 함께 에이전트 행동을 통제하는 보안 체계, 잠재적 위협 차단 기능이 함께 요구된다.

이와 관련해 Arm은 엔비디아와 협력해 에이전틱 AI 시대용 안전한 컴퓨팅 인프라를 구축한다고 2일 발표했다. Arm은 에이전틱 AI 확산에 대응하는 지원 영역을 2가지로 제시했다.

첫째는 에이전트 실행용 고성능 CPU다. 둘째는 독립적 보안·제어 기능을 제공하는 DPU다.

엔비디아는 Open Agent Safety Platform을 공개했다. 이 플랫폼은 Arm이 제시한 해당 아키텍처의 구현 사례로 소개됐다.

Arm은 주요 하이퍼스케일러 대상 AI·클라우드 인프라 기술을 공급하고 있다. IDC 집계에 따르면 가속 컴퓨팅용 서버 시장에서 Arm 기반 랙 스케일 서버가 x86을 추월했다. 이에 따라 가속 컴퓨팅용 서버 시장의 주력 플랫폼은 Arm 기반 랙 스케일 서버로 자리하고 있으며, AI 인프라의 Arm 전환도 확대되고 있다.

이 같은 전환 확대 속에서 에이전틱 AI가 확산되면서 Arm 기반 컴퓨팅 생태계의 중요성도 커지고 있다. 에이전틱 AI 인프라에서 CPU는 에이전트 런타임을 담당하고, 오케스트레이션을 담당하며, 도구 실행을 담당하고, 애플리케이션 운영을 담당한다. 또한 AI 에이전트의 역량이 향상될수록 CPU 수요가 증가하고, AI 에이전트의 실행 시간이 장기화될수록 CPU 수요가 증가하며, AI 에이전트의 동시 처리 규모가 확대될수록 CPU 수요가 증가한다.

Arm은 자체 Arm AGI CPU를 보유하고 있다. 또한 Arm은 AWS 그래비톤(Graviton) 기반 CPU 생태계, 구글 액시온(Axion) 기반 CPU 생태계, 마이크로소프트 코발트(Cobalt) 기반 CPU 생태계, 엔비디아 베라(Vera) 기반 CPU 생태계를 통해 에이전틱 AI·클라우드 워크로드를 지원하고 있다. Arm은 이 같은 다양한 Arm 기반 CPU 생태계를 통해 에이전틱 AI·클라우드 워크로드를 지원하고 있다.

엔비디아의 OpenShell은 Arm CPU 생태계에서 에이전트의 안전한 실행을 지원하는 기술이다. OpenShell은 에이전트 주변에 안전한 런타임 경계를 설정하고, 에이전트의 접근 대상을 관리하며, 에이전트의 수행 가능 작업을 관리한다. 이를 통해 OpenShell은 Arm CPU 환경에서 에이전트의 경계와 권한을 관리해 안전한 실행을 가능하게 한다.

이 기술의 효과는 특정 CPU 비종속적 에이전트 실행 환경 구축에 있으며, 다양한 Arm 기반 클라우드 및 AI 인프라에 적용될 수 있다. 이에 따라 OpenShell은 다양한 Arm 기반 클라우드 및 AI 인프라에서 일관된 에이전트 실행 환경을 제공한다. 에이전틱 AI 활용 범위가 확대되는 배경 속에서, 이는 다양한 컴퓨팅 환경에서 보안 정책 적용 기반과 안전한 실행 보장 기반을 마련하는 의미를 갖는다.

다만 에이전트의 안전한 실행만으로는 에이전틱 AI 인프라 보안을 완성하기 어렵다는 한계가 있다. 이에 따라 실행 환경과 독립적인 별도 제어 계층이 추가로 요구된다. 이 별도 제어 계층은 시스템을 관찰하고, 보안 정책을 적용하며, 필요 시 위협을 격리하는 역할을 한다.

이 구조는 Arm 기반 DPU·인프라 프로세서가 역할을 수행하는 방식으로, 네트워킹·모니터링·격리·보안 기능을 호스트 CPU와 분리하고 에이전트·애플리케이션 실행 환경 외부에 독립 제어 지점을 구축한다. 이에 따라 인프라·네트워크 제어 기능은 에이전트 자체와 분리된 작동 구조를 이루며, 에이전트 실행 상태와 무관하게 인프라 차원의 보안 정책을 관리할 수 있다.

엔비디아 블루필드(BlueField)는 오픈 에이전트 세이프티 플랫폼에서 해당 구조를 구현했다. 블루필드-4는 Arm Neoverse V2 코어 64개를 탑재하고 엔비디아 그레이스(Grace)로 구동되며, 호스트 시스템과 독립 작동하는 인프라 환경을 제공한다. 또 엔비디아 오픈셸·센트리(Sentry)가 블루필드-4에 통합돼 정책 시행 범위를 에이전트 실행 환경 너머 별도 신뢰 도메인까지 확장한다.

오픈셸은 에이전트 실행 환경 내부에서 접근과 작업을 통제한다. 반면 엔비디아 센트리는 독립 감시 계층을 통해 시스템 수준의 보안을 강화하는 역할을 맡는다. 센트리는 에이전트의 행동을 실시간으로 모니터링하고, 안전하지 않은 행동을 보이는 에이전트를 격리하도록 지원한다.

이 같은 구조는 에이전트 실행 기능과 보안 관리 기능을 분리하는 데 초점을 맞춘다. 이를 통해 더 폭넓은 시스템 수준 보안 모델을 구현하는 것이 목표다. 이러한 역할 분담은 Arm CPU가 에이전트 워크로드를 실행하고, Arm 기반 DPU가 에이전트를 독립적으로 관찰·관리·격리하는 방식으로 구현된다.

에이전틱 AI의 발전에 따라 제기되는 과제는 컴퓨팅 인프라 성능과 보안 체계의 동반 확장이다. 에이전트의 자율성과 지속성이 커질수록 더 많은 컴퓨팅 자원이 필요하다. 동시에 에이전트가 접근하는 데이터와 시스템을 보호하기 위해 보안 기능의 강화도 필요하다.

엔비디아는 오픈 에이전트 세이프티 플랫폼을 제시했다. 이 플랫폼의 접근 방식은 Arm 호환 컴퓨팅 환경에서 에이전트를 실행하고, 독립적 Arm 기반 DPU를 통해 감시 기능과 격리 기능을 제공하는 것이다. 엔비디아가 제시한 이런 보안 아키텍처는 클라우드 데이터센터에 한정되지 않는다. 에이전틱 AI가 엣지 디바이스로 확장되고 피지컬 AI 시스템으로도 확장되면서, 다양한 실행·작동 환경에 보안 경계를 적용하는 중요성이 커지고 있다.

Arm은 이에 맞춰 AI 인프라 전반에서 컴퓨팅 생태계를 확대할 방침이다. 이 확대 범위는 CPU 기술과 DPU 기술을 포괄한다. Arm의 방침은 에이전틱 AI의 성능과 보안을 지원하는 데 맞춰져 있다. Arm은 에이전트 실행과 행동 통제, 시스템 보호를 잇는 컴퓨팅 아키텍처를 구축해 에이전틱 AI의 안전한 확산을 뒷받침한다는 구상을 밝혔다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407714

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407714