Security

AI Agent 自主性擴大,資安管理拉警報……資安業界:治理體系很重要

TECHWORLD ·

AI Agent 自主性擴大,資安管理拉警報……資安業界:治理體系很重要
[圖片:ChatGPT]

✦ AI 摘要

企業的 AI 轉型正加速進行,許多企業正透過導入 AI 來提升生產力與效率。

Deloitte 調查顯示,74% 的企業預期未來 2 年內將在一定程度以上活用 agentic AI,但僅有 21% 的企業表示已具備與自主型 AI agent 相關的成熟治理體系。

Gartner 指出,因應 AI agent 自主性擴大,有必要建立明確的所有權體系與責任體系,並警告到了 2027年,40% 的 AI agent 專案可能會降低自主性,或遭到廢止。

BizCrushWant to follow Korean talks and live streams in real time?Try CapCrush on the web

20日據業界消息,企業的 AI 轉型正快速推進。許多企業基於對自動化的期待,著手導入 AI,推動生產力、效率提升。Deloitte 發布的「企業的 AI 活用現況 2026」顯示,受訪企業中有 74% 預期在未來 2 年內將在一定程度以上活用 agentic AI。

隨著 AI agent 的自主性提高,有聲音指出,企業的資安管理體系也必須跟著調整。尤其是隨著自主性擴大,需要建立因應的資安治理體系,同時也浮現資安面向的問題。這可解讀為,面對 AI agent 自主性擴大,資安管理已進入警戒狀態。

同一份調查中,僅有 21% 的企業表示已擁有與自主型 AI agent 相關的成熟治理體系。針對因應 AI agent 導入擴大而建立管理、監督體系,亦顯示不足。由此可見,導入速度與管理體系之間的落差,正轉化為企業的資安疑慮。

業界近期將 AI agent 資安控管視為新課題。AI agent 的自主性愈高,可獨立執行的工作就愈多,能存取的系統也會擴大。據此,一旦發生問題,影響範圍也可能隨之擴大。

在這樣的背景下,強調治理體系重要性的聲音也愈來愈大。Gartner 於 12日公布報告「Agentic Security: AI Agent Ownership Belongs to the Enterprise, Not the Engineer」。該報告強調,為了因應 AI agent 自主性擴大,有必要建立明確的所有權體系與責任體系。

根據 Gartner 報告引用的調查結果,53% 的 AI 治理負責人表示,對 agent guardrail 控制程度的評估不足或僅屬普通。另有 51% 表示,沒有明確負責管理 AI 身分的人員。

Gartner 警告,到了 2027年,因身分與治理管理問題,40% 的 AI agent 專案可能會降低自主性,或遭到廢止。

與此相關,AI agent 的身分與存取權限整合管理難度高,也被指出是問題所在。業界人士說明,在使用者身分與存取權限本就難以整合的情況下,再加入 AI agent,使管理複雜性進一步提高。另也表示,僅靠現有資安技術,難以整合管理 AI agent 的完整身分。

業界認為,AI agent 雖具自主性,但仍需依實際執行的使用者而有權限差異。此外,也指出有必要對 AI agent 在網路上的所有行為進行分析與控管。

來源: TECHWORLD · Kim Hye-jin 原文: https://www.epnc.co.kr/news/articleView.html?idxno=410094

參考資料

本文由 BizCrush 在自動生成演算法的協助下撰寫。


來源 TECHWORLD

查看原文

本文由 BizCrush 根據 TECHWORLD 原文摘要整理。準確引文與細節請參閱原文。

Keep reading

BizCrush
BizCrush showing live captions over an online meeting

BizCrush app

Live captions and summaries for meetings and calls

BizCrush Inc. · 執行長 Taemin Kwak

總部 100 Middlefield Rd, Menlo Park, CA 94025, USA

韓國辦公室 韓國首爾特別市江南區永東大路 602 號 6 樓 602 室內 Z112

客服 help@bizcrush.ai · 合作洽詢 business@bizcrush.ai

AI 聲明

部分功能使用生成式 AI。

這些功能在使用前皆會另行告知,並標示 AI 生成的結果。AI 產出內容僅供參考——做出重要決定前,請務必確認原始出處並諮詢專業人士。