AI Agent 自主性擴大,資安管理拉警報……資安業界:治理體系很重要
TECHWORLD ·
✦ AI 摘要
企業的 AI 轉型正加速進行,許多企業正透過導入 AI 來提升生產力與效率。
Deloitte 調查顯示,74% 的企業預期未來 2 年內將在一定程度以上活用 agentic AI,但僅有 21% 的企業表示已具備與自主型 AI agent 相關的成熟治理體系。
Gartner 指出,因應 AI agent 自主性擴大,有必要建立明確的所有權體系與責任體系,並警告到了 2027年,40% 的 AI agent 專案可能會降低自主性,或遭到廢止。
BizCrushWant to follow Korean talks and live streams in real time?Try CapCrush on the web
20日據業界消息,企業的 AI 轉型正快速推進。許多企業基於對自動化的期待,著手導入 AI,推動生產力、效率提升。Deloitte 發布的「企業的 AI 活用現況 2026」顯示,受訪企業中有 74% 預期在未來 2 年內將在一定程度以上活用 agentic AI。
隨著 AI agent 的自主性提高,有聲音指出,企業的資安管理體系也必須跟著調整。尤其是隨著自主性擴大,需要建立因應的資安治理體系,同時也浮現資安面向的問題。這可解讀為,面對 AI agent 自主性擴大,資安管理已進入警戒狀態。
同一份調查中,僅有 21% 的企業表示已擁有與自主型 AI agent 相關的成熟治理體系。針對因應 AI agent 導入擴大而建立管理、監督體系,亦顯示不足。由此可見,導入速度與管理體系之間的落差,正轉化為企業的資安疑慮。
業界近期將 AI agent 資安控管視為新課題。AI agent 的自主性愈高,可獨立執行的工作就愈多,能存取的系統也會擴大。據此,一旦發生問題,影響範圍也可能隨之擴大。
在這樣的背景下,強調治理體系重要性的聲音也愈來愈大。Gartner 於 12日公布報告「Agentic Security: AI Agent Ownership Belongs to the Enterprise, Not the Engineer」。該報告強調,為了因應 AI agent 自主性擴大,有必要建立明確的所有權體系與責任體系。
根據 Gartner 報告引用的調查結果,53% 的 AI 治理負責人表示,對 agent guardrail 控制程度的評估不足或僅屬普通。另有 51% 表示,沒有明確負責管理 AI 身分的人員。
Gartner 警告,到了 2027年,因身分與治理管理問題,40% 的 AI agent 專案可能會降低自主性,或遭到廢止。
與此相關,AI agent 的身分與存取權限整合管理難度高,也被指出是問題所在。業界人士說明,在使用者身分與存取權限本就難以整合的情況下,再加入 AI agent,使管理複雜性進一步提高。另也表示,僅靠現有資安技術,難以整合管理 AI agent 的完整身分。
業界認為,AI agent 雖具自主性,但仍需依實際執行的使用者而有權限差異。此外,也指出有必要對 AI agent 在網路上的所有行為進行分析與控管。
來源: TECHWORLD · Kim Hye-jin 原文: https://www.epnc.co.kr/news/articleView.html?idxno=410094
參考資料
本文由 BizCrush 在自動生成演算法的協助下撰寫。
來源 TECHWORLD
查看原文本文由 BizCrush 根據 TECHWORLD 原文摘要整理。準確引文與細節請參閱原文。
