엔비디아, AI 에이전트 보안의 기준을 전면 재정의

인공지능신문에 따르면 엔비디아는 9월 29일 AI 에이전트 보안을 모델 안전성의 문제가 아니라 엔지니어링 문제로 규정하고, 모델부터 실행환경까지 전 계층에 강제 가능한 통제를 둬야 한다고 밝혔다. 특히 보안은 에이전트의 판단과 분리된 경계에서 작동해야 하며, 중요한 작업에는 사람 승인을 포함한 검증 체계가 필요하다고 봤다. 에이전트가 외부 도구를 쓰고 상황에 따라 행동을 바꾸는 만큼 기존 애플리케이션 보안을 그대로 두는 방식으로는 부족하다는 문제의식이 깔려 있다. 그래서 신원과 권한, 네트워크, 로그, 테스트를 한 덩어리로 묶어 설계하고 실제 차단과 기록이 남는지 입증해야 한다는 쪽에 무게를 실었다. 이를 구현하는 사례로는 실행환경 바깥에서 정책을 강제하는 보안 런타임과, 공격 시뮬레이션으로 통제의 작동 여부를 확인하는 방식이 함께 제시됐다. 결국 에이전트가 똑똑해지는 것보다 실수하거나 흔들려도 경계가 유지되도록 만드는 일이 배포의 전제가 돼야 한다는 메시지다.