Security

AIサイバー攻撃が「自律化段階」に突入、企業にセキュリティ対応の見直し迫る

TECHWORLD ·

AIサイバー攻撃が「自律化段階」に突入、企業にセキュリティ対応の見直し迫る
[写真:Google Cloud]

✦ AI 要約

Google Threat Intelligence Group(GTIG)は17日、『AI Threat Tracker』レポートを発表した。

報告書は、AI活用が人の補助を超えて自律型マルチエージェントフレームワークと自動化された脆弱性悪用へ拡大したと明らかにした。

GTIGは、人の介入がない脆弱性悪用事例とともに、今後の攻撃時間短縮と規模拡大を懸念した。

BizCrush韓国語の発表やライブを、リアルタイムで聴きたいならCapCrush(Web版)を試す

AIを活用したサイバー攻撃が持続的に高度化し、攻撃の遂行方式は人の補助レベルを超えて自律化段階へ移行している。最近の業界レポートによると、人の介入なしに脆弱性を検出し、攻撃コードを開発する水準に達しており、AIエージェントベースで攻撃段階を自律的に遂行した事例も継続的に確認されている。これに伴い、自動化による攻撃速度と規模の拡大が見込まれる。

Google Threat Intelligence Group(GTIG)は17日、『AI Threat Tracker』レポートを発表した。報告書には昨年9月の発表以降に観察されたAI活用事例の分析が収録されており、分析対象はサイバー犯罪と諜報活動、情報作戦である。

報告書によると、最近の脅威行為者は単純なプロンプト入力を超え、自律型マルチエージェントフレームワークを活用しており、自動化された脆弱性悪用技術も攻撃に用いている。これにより、従来は人間が担っていた業務の多くの攻撃段階が自動化されており、多数の標的を狙った攻撃も迅速に進んでいる。

攻撃用マルチエージェントフレームワークの事例としては、ARTEX、CAIRN、CyberStrikeAI、PentAGIなどが挙げられた。報告書では、ある脅威行為者が米国の航空宇宙産業を対象とした侵入過程でCAIRNを活用した事例も言及された。

同時に注目点は、脆弱性研究と悪用の自動化へ移っている。脅威行為者はLLM・エージェント型フレームワークを用いて、セキュリティパッチ前後のコード変化を比較分析(differential analysis)しており、その目的は修正された脆弱性を特定することにある。この過程でリバースエンジニアリングの過程も全面的に自動化されている。

このようなパッチ前後のコード比較による脆弱性発掘は、N-day脆弱性の迅速な武器化につながり得る。また、人の介入なしにインターネット公開サーバーを対象とした大規模な自動化攻撃も可能になる。

GTIGは、人が全く介入しない(human-out-of-the-loop)脆弱性悪用事例を史上初めて確認したと明らかにした。GTIGはまた、ロシア語ベースのツールで構成された『exploit_agent』というLLMフレームワークが存在すると発表し、このフレームワークはパッチ適用前後のコードの継続的な比較を通じて脆弱性を検出し、人の介入なしに攻撃コードを自動開発する機能を備えていると示した。

AIベースの攻撃は金銭目的のサイバー犯罪へと拡大している。侵入した企業環境内のLLM認証情報を窃取し、侵入した企業環境内のクラウド資源も窃取したうえで、その窃取資源を活用して地下のプロキシサービス『LLM mixer』を通じてフロンティアAIモデルのアクセス権限を再販売する流れが見られている。

情報作戦(IO)分野でもLLMの活用が増えている。国家支援の脅威グループとInfluence-as-a-Service業者、政治コンテンツ収益化を行う偽アカウントネットワークがLLMを日常的に活用しており、その目的は合成メディアの大量制作と、現地化されたペルソナの生成、複数プラットフォームを対象としたコンテンツ流布の自動化にある。

国家関係のハッキング組織によるAI活用も精緻化している。GTIGは、中国関係のサイバー諜報組織がLLMで攻撃対象の調査を行い、データ分析を自動化し、新たなサプライチェーン攻撃経路を開拓していると発表した。代表的な事例としては、自律型コーディングアシスタントの設定を操作し、ローカル環境でコードを実行する際にバックドアを挿入する方式が示された。GTIGは、中国関係のサイバー諜報組織のLLM活用範囲が対象調査とデータ分析自動化、サプライチェーン攻撃経路の開拓まで拡大したと明らかにした。

報告書は、北朝鮮関係の攻撃者がAI生成の仮想人物と関連ツールを実際の攻撃過程で活用した兆候を示した。標的は暗号資産企業であり、いくつかの偽人物画像ではGoogle AIウォーターマークSynthIDが確認された。また、自律型コーディングアシスタントの設定を操作しようとする試みも捉えられた。

GTIGはこれを踏まえ、敵対的AI脅威環境が重大な転換点に入ったと強調した。動員事例としては、自律型マルチエージェントフレームワークと自動化された脆弱性悪用パイプライン、LLMJackingなどの新たな収益化手法が示された。

GTIGは今後のサイバー攻撃で、AIエージェントの活用と自動化フレームワークの活用が拡大すると見込んだ。あわせて、生成AIの活用により攻撃時間が短縮され、作戦規模が拡大し、machine-speed水準の多段階侵入攻撃が実行される可能性がある点を懸念した。

業界関係者は、AI活用による脆弱性悪用の可能性と攻撃実行の自動化の進行を警告しつつ、セキュリティ対応方式にも自動化対応が必要だと述べた。彼らは、サイバー攻撃の持続的な高度化により従来の対応方式の限界が露出しており、企業の脆弱性管理能力の確保の重要性と、企業の脅威検知・対応自動化能力の確保の重要性が拡大すると見通した。

出典:TECHWORLD · キム・ヘジン 原文:https://www.epnc.co.kr/news/articleView.html?idxno=409907

参考資料

本記事は、TECHWORLDの原文をもとにBizCrushがAIを用いて要約・再構成・編集したものであり、TECHWORLDの原文そのものではありません。


本記事は、TECHWORLDの原文をもとにBizCrushが要約・編集したものです。正確な引用や詳細は原文をご確認ください。

あわせて見る

BizCrush
オンライン会議の画面にリアルタイム字幕を表示した BizCrush

BizCrush アプリ

会議・通話のリアルタイム字幕と要約

BizCrush Inc. · 代表 郭泰民

本社 100 Middlefield Rd, Menlo Park, CA 94025, USA

韓国オフィス 大韓民国 ソウル特別市 江南区 永東大路 602, 6階 602号内 Z112

カスタマーサポート help@bizcrush.ai · 事業提携のお問い合わせ business@bizcrush.ai

AIに関するご案内

一部の機能では生成AIを利用しています。

該当する機能では、ご利用前のご案内とAI生成結果の表示を別途ご用意しています。AIの出力はあくまで参考であり、重要な判断の前には必ず原文の確認と専門家による検討が必要です。