AI 資安攻擊進入「自主化階段」 企業安全因應亟需轉變
TECHWORLD ·
✦ AI 摘要
Google 威脅情報團隊(GTIG)於 17 日發布了「AI Threat Tracker」報告。
報告指出,AI 的活用已從人類輔助擴展到自主型多 agent 架構與自動化漏洞利用。
GTIG 也對完全無人介入的漏洞利用案例,以及未來攻擊時間縮短與規模擴大表達憂慮。
BizCrushWant to follow Korean talks and live streams in real time?Try CapCrush on the web
利用 AI 的資安攻擊持續升級,攻擊執行方式正從人類輔助層級邁向自主化階段。根據近期業界報告,攻擊已達到無需人為介入即可偵測漏洞並開發攻擊程式碼的程度,且以 AI agent 為基礎、可自主執行攻擊階段的案例也持續被確認。隨之而來的,是自動化帶動攻擊速度與規模擴大的預期。
Google 威脅情報團隊(GTIG)於 17 日發布了「AI Threat Tracker」報告。該報告收錄了自去年 9 月發布以來觀察到的 AI 活用案例分析,分析對象包括網路犯罪、間諜活動與資訊作戰。
報告指出,近期威脅行為者已不再僅是單純輸入提示詞,而是運用自主型多 agent 架構,並將自動化漏洞利用技術投入攻擊。這使得原本由人類執行的多個攻擊階段正被自動化,針對多個目標的攻擊也能更快速展開。
攻擊用多 agent 架構的案例包括 ARTEX、CAIRN、CyberStrikeAI、PentAGI 等。報告也提到,有一名威脅行為者在針對美國航太產業的滲透過程中,曾運用 CAIRN。
與此同時,焦點也轉向漏洞研究與利用的自動化。威脅行為者正利用 LLM、agentic framework 對安全修補前後的程式碼變化進行 differential analysis,目的是識別已修改的漏洞。在這個過程中,逆向工程也正被全面自動化。
這種透過修補前後程式碼比較來發掘漏洞的做法,可能進一步導致 N-day 漏洞被迅速武器化。此外,也能在無需人類介入的情況下,對暴露於網際網路的伺服器發動大規模自動化攻擊。
GTIG 表示,該團隊首次確認了完全 human-out-of-the-loop 的漏洞利用案例。GTIG 也公布存在一個名為「exploit_agent」的 LLM framework,由俄語工具所組成;該 framework 具備透過持續比對修補前後程式碼來偵測漏洞,並在無需人類介入下自動開發攻擊程式碼的功能。
以 AI 為基礎的攻擊也正擴大到以金錢為目的的網路犯罪。出現了一種模式:從遭滲透的企業環境中竊取 LLM 憑證,再竊取該環境內的雲端資源,並利用這些被竊資源,透過地下代理服務「LLM mixer」轉售對 frontier AI 模型的存取權限。
在資訊作戰(IO)領域,LLM 的使用也在增加。國家支持的威脅團體、Influence-as-a-Service 業者,以及以政治內容變現的假帳號網路,正例行性運用 LLM,其目的在於大量製作合成媒體、生成在地化人物設定,並自動化將內容散布至多個平台。
與國家相關的駭客組織對 AI 的運用也日益精密。GTIG 表示,與中國相關的網路間諜組織正以 LLM 進行攻擊目標調查、資料分析自動化,並開拓新的供應鏈攻擊路徑。代表案例之一,是操弄自主型程式編寫助理的設定,以便在本地環境執行程式碼時植入後門。GTIG 指出,與中國相關的網路間諜組織對 LLM 的使用範圍,已擴展至目標調查、資料分析自動化與供應鏈攻擊路徑開拓。
報告指出,與北韓相關的攻擊者曾將 AI 生成的假人物與相關工具實際用於攻擊過程。目標為一家加密貨幣企業,部分假人物圖片中還可確認 Google 的 AI 浮水印 SynthID。另一起試圖操弄自主型程式編寫助理設定的行動也被發現。
GTIG 基於此強調,敵對性 AI 威脅環境已進入重大轉捩點。動員案例包括自主型多 agent 架構、自動化漏洞利用 pipeline,以及 LLMJacking 等新型獲利方式。
GTIG 預測,未來網路攻擊中 AI agent 的使用與自動化 framework 的運用將進一步擴大。此外,隨著生成式 AI 的使用,攻擊時間可能縮短、作戰規模擴大,並出現以 machine-speed 進行的多階段滲透攻擊。
業界人士在警告 AI 活用漏洞利用的可能性與攻擊執行自動化的進展之際,也表示安全因應方式同樣需要自動化應對。他們指出,隨著網路攻擊持續升級,既有因應方式的侷限已逐漸浮現,企業強化漏洞管理能力,以及強化威脅偵測與應對自動化能力的重要性將進一步提升。
來源: TECHWORLD · Kim Hye-jin 原文: https://www.epnc.co.kr/news/articleView.html?idxno=409907
參考資料
本文由 BizCrush 在自動生成演算法的協助下撰寫。
來源 TECHWORLD
查看原文本文由 BizCrush 根據 TECHWORLD 原文摘要整理。準確引文與細節請參閱原文。
