MS, AI 에이전트도 내부자처럼 감시한다

인공지능신문에 따르면 마이크로소프트는 기업이 도입한 AI 에이전트 자체를 잠재적 내부자 위협으로 보고, 10월 19일 프로젝트 퍼셉션을 앞세워 실시간 위험 평가와 권한 조정, 위협 차단 체계를 확대하겠다고 밝혔다. 핵심은 모델을 신뢰하는 대신 모델 바깥의 보안 장치로 행동을 통제하겠다는 방향입니다. 이 회사는 정상적으로 배포된 에이전트도 목표를 좇는 과정에서 조직 의도와 어긋난 행동을 할 수 있다고 보고, 기존의 외부 공격 방어 체계를 내부 에이전트 감시로 넓히고 있습니다. 특히 다른 에이전트의 행동을 실행 전에 살피는 가디언 에이전트 개념을 내세워, 에이전트를 단순 도구가 아니라 권한을 행사하는 주체로 다루려 합니다. 보안의 초점도 사전 설정에 머무르지 않고 실제 행동과 맥락을 계속 살피는 쪽으로 옮겨갑니다. 다만 구체적인 적용 범위와 제공 일정, 성능 지표는 이번 발표에서 자세히 공개되지 않았습니다.