보안

AI 에이전트 자율성 확대에 보안 관리 '비상'…보안 업계, "거버넌스 체계 중요"

테크월드뉴스 ·

AI 에이전트 자율성 확대에 보안 관리 '비상'…보안 업계, "거버넌스 체계 중요"
[사진=ChatGPT]

✦ AI 요약

기업의 AI 전환이 빨라지고 있으며, 다수 기업은 AI 도입으로 생산성과 효율성 제고를 추진하고 있다.

딜로이트 조사에서 기업의 74%가 향후 2년 내 에이전틱 AI를 일정 수준 이상 활용할 것으로 전망됐지만, 자율형 AI 에이전트와 관련한 성숙한 거버넌스 체계를 보유했다고 답한 기업은 21%에 그쳤다.

가트너는 AI 에이전트 자율성 확대에 대응해 명확한 소유 체계와 책임 체계가 필요하다고 했고, 2027년까지 AI 에이전트 프로젝트 40%의 자율성이 저하되거나 폐기될 수 있다고 경고했다.

20일 업계에 따르면 기업의 AI 전환이 빠르게 진행되고 있다. 다수 기업은 자동화에 대한 기대감을 바탕으로 AI 도입에 나서며 생산성·효율성 제고를 추진하고 있다. 딜로이트가 발표한 '기업의 AI 활용 현황 2026'에서는 조사 대상 기업의 74%가 향후 2년 내 에이전틱 AI를 일정 수준 이상 활용할 것으로 전망했다.

이처럼 AI 에이전트의 자율성이 증대하면서 기업의 보안 관리 체계 변화가 요구된다는 지적이 나온다. 특히 자율성 확대에 대응하기 위한 보안 거버넌스 체계가 필요하다는 지적과 함께 보안 측면의 문제가 제기됐다. 이는 AI 에이전트 자율성 확대에 따라 보안 관리에 비상이 걸린 상황이라는 의미로 해석된다.

같은 조사에서 자율형 AI 에이전트와 관련한 성숙한 거버넌스 체계를 보유했다고 응답한 기업은 21%에 그쳤다. AI 에이전트 도입 확대에 대비한 관리·감독 체계 구축도 미흡한 것으로 나타났다. 이에 따라 도입 속도와 관리 체계 사이의 격차가 기업 보안 우려로 이어지는 흐름이다.

업계에서는 최근 과제로 AI 에이전트 보안 통제가 부상하고 있다. AI 에이전트의 자율성이 증대할수록 독립적으로 수행할 수 있는 작업이 증가하고, 접근 가능한 시스템도 확대된다고 보고 있다. 이에 따라 문제가 발생할 경우 영향 범위가 확대될 가능성도 제기된다.

이 같은 배경에서 거버넌스 체계의 중요성을 강조하는 목소리도 커지고 있다. 가트너는 지난 12일 '에이전틱 보안: AI 에이전트의 소유권은 엔지니어가 아닌 기업에 있다(Agentic Security: AI Agent Ownership Belongs to the Enterprise, Not the Engineer)' 보고서를 공개했다. 이 보고서는 AI 에이전트 자율성 확대에 대응하기 위해 명확한 소유 체계와 책임 체계를 구축할 필요가 있다고 강조했다.

가트너 보고서가 인용한 조사 결과에 따르면 AI 거버넌스 책임자의 53%는 에이전트 가드레일 통제 수준 평가가 미흡하거나 보통이라고 답했다. 또 51%는 AI 신원을 명확하게 관리할 책임자가 부재하다고 응답했다.

가트너는 신원·거버넌스 관리 문제로 2027년까지 AI 에이전트 프로젝트 40%의 자율성이 저하되거나 폐기될 수 있다고 경고했다.

이와 관련해 AI 에이전트의 신원·접근 권한을 통합 관리하는 일의 난이도가 높은 것으로 지적됐다. 업계 관계자는 사용자 신원·접근 권한 통합도 어려운 상황에서 AI 에이전트가 추가되면서 관리 복잡성이 증대됐다고 설명했다. 또 현재 보안 기술만으로는 AI 에이전트 신원 전체를 통합 관리하기 어렵다고 전했다.

업계에서는 AI 에이전트가 자율성을 가지지만 이를 실행하는 사용자에 따라 권한 차등이 필요하다고 봤다. 아울러 AI 에이전트의 네트워크상 모든 행위에 대한 분석·통제가 필요하다고 짚었다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=410094

참고자료

이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.


출처 테크월드뉴스

원문 확인

이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.

이어서 보기

BizCrush
온라인 회의 화면에 실시간 자막을 띄운 BizCrush

BizCrush 앱

회의·통화 실시간 자막과 요약

주식회사 비즈크러시 · 대표 곽태민 · 사업자등록번호 691-86-03729

서울특별시 강남구 영동대로 602, 6층 602호 내 Z112 (삼성동, 삼성동 미켈란 107)

고객문의 help@bizcrush.ai · 사업 제휴 문의 business@bizcrush.ai

AI 안내

일부 서비스는 생성형 AI를 활용합니다.

해당 기능에는 이용 전 안내와 AI 생성 결과 표시를 별도로 제공합니다. AI 결과는 참고용이며, 중요한 결정 전에는 반드시 원문 확인과 전문가 검토가 필요합니다.