Security

AI 資安攻擊進入「自主化階段」 企業安全因應亟需轉變

TECHWORLD ·

AI 資安攻擊進入「自主化階段」 企業安全因應亟需轉變
[圖片:Google Cloud]

✦ AI 摘要

Google 威脅情報團隊(GTIG)於 17 日發布了「AI Threat Tracker」報告。

報告指出,AI 的活用已從人類輔助擴展到自主型多 agent 架構與自動化漏洞利用。

GTIG 也對完全無人介入的漏洞利用案例,以及未來攻擊時間縮短與規模擴大表達憂慮。

BizCrushWant to follow Korean talks and live streams in real time?Try CapCrush on the web

利用 AI 的資安攻擊持續升級,攻擊執行方式正從人類輔助層級邁向自主化階段。根據近期業界報告,攻擊已達到無需人為介入即可偵測漏洞並開發攻擊程式碼的程度,且以 AI agent 為基礎、可自主執行攻擊階段的案例也持續被確認。隨之而來的,是自動化帶動攻擊速度與規模擴大的預期。

Google 威脅情報團隊(GTIG)於 17 日發布了「AI Threat Tracker」報告。該報告收錄了自去年 9 月發布以來觀察到的 AI 活用案例分析,分析對象包括網路犯罪、間諜活動與資訊作戰。

報告指出,近期威脅行為者已不再僅是單純輸入提示詞,而是運用自主型多 agent 架構,並將自動化漏洞利用技術投入攻擊。這使得原本由人類執行的多個攻擊階段正被自動化,針對多個目標的攻擊也能更快速展開。

攻擊用多 agent 架構的案例包括 ARTEX、CAIRN、CyberStrikeAI、PentAGI 等。報告也提到,有一名威脅行為者在針對美國航太產業的滲透過程中,曾運用 CAIRN。

與此同時,焦點也轉向漏洞研究與利用的自動化。威脅行為者正利用 LLM、agentic framework 對安全修補前後的程式碼變化進行 differential analysis,目的是識別已修改的漏洞。在這個過程中,逆向工程也正被全面自動化。

這種透過修補前後程式碼比較來發掘漏洞的做法,可能進一步導致 N-day 漏洞被迅速武器化。此外,也能在無需人類介入的情況下,對暴露於網際網路的伺服器發動大規模自動化攻擊。

GTIG 表示,該團隊首次確認了完全 human-out-of-the-loop 的漏洞利用案例。GTIG 也公布存在一個名為「exploit_agent」的 LLM framework,由俄語工具所組成;該 framework 具備透過持續比對修補前後程式碼來偵測漏洞,並在無需人類介入下自動開發攻擊程式碼的功能。

以 AI 為基礎的攻擊也正擴大到以金錢為目的的網路犯罪。出現了一種模式:從遭滲透的企業環境中竊取 LLM 憑證,再竊取該環境內的雲端資源,並利用這些被竊資源,透過地下代理服務「LLM mixer」轉售對 frontier AI 模型的存取權限。

在資訊作戰(IO)領域,LLM 的使用也在增加。國家支持的威脅團體、Influence-as-a-Service 業者,以及以政治內容變現的假帳號網路,正例行性運用 LLM,其目的在於大量製作合成媒體、生成在地化人物設定,並自動化將內容散布至多個平台。

與國家相關的駭客組織對 AI 的運用也日益精密。GTIG 表示,與中國相關的網路間諜組織正以 LLM 進行攻擊目標調查、資料分析自動化,並開拓新的供應鏈攻擊路徑。代表案例之一,是操弄自主型程式編寫助理的設定,以便在本地環境執行程式碼時植入後門。GTIG 指出,與中國相關的網路間諜組織對 LLM 的使用範圍,已擴展至目標調查、資料分析自動化與供應鏈攻擊路徑開拓。

報告指出,與北韓相關的攻擊者曾將 AI 生成的假人物與相關工具實際用於攻擊過程。目標為一家加密貨幣企業,部分假人物圖片中還可確認 Google 的 AI 浮水印 SynthID。另一起試圖操弄自主型程式編寫助理設定的行動也被發現。

GTIG 基於此強調,敵對性 AI 威脅環境已進入重大轉捩點。動員案例包括自主型多 agent 架構、自動化漏洞利用 pipeline,以及 LLMJacking 等新型獲利方式。

GTIG 預測,未來網路攻擊中 AI agent 的使用與自動化 framework 的運用將進一步擴大。此外,隨著生成式 AI 的使用,攻擊時間可能縮短、作戰規模擴大,並出現以 machine-speed 進行的多階段滲透攻擊。

業界人士在警告 AI 活用漏洞利用的可能性與攻擊執行自動化的進展之際,也表示安全因應方式同樣需要自動化應對。他們指出,隨著網路攻擊持續升級,既有因應方式的侷限已逐漸浮現,企業強化漏洞管理能力,以及強化威脅偵測與應對自動化能力的重要性將進一步提升。

來源: TECHWORLD · Kim Hye-jin 原文: https://www.epnc.co.kr/news/articleView.html?idxno=409907

參考資料

本文由 BizCrush 在自動生成演算法的協助下撰寫。


來源 TECHWORLD

查看原文

本文由 BizCrush 根據 TECHWORLD 原文摘要整理。準確引文與細節請參閱原文。

Keep reading

BizCrush
BizCrush showing live captions over an online meeting

BizCrush app

Live captions and summaries for meetings and calls

BizCrush Inc. · 執行長 Taemin Kwak

總部 100 Middlefield Rd, Menlo Park, CA 94025, USA

韓國辦公室 韓國首爾特別市江南區永東大路 602 號 6 樓 602 室內 Z112

客服 help@bizcrush.ai · 合作洽詢 business@bizcrush.ai

AI 聲明

部分功能使用生成式 AI。

這些功能在使用前皆會另行告知,並標示 AI 生成的結果。AI 產出內容僅供參考——做出重要決定前,請務必確認原始出處並諮詢專業人士。