企業AIアカウントを狙う「LLMJacking」が拡大…1日10万ドルの請求爆弾に注意
TECHWORLD ·
✦ AI 要約
LLMJackingは、盗み取ったAPIキーでAIモデルを不正利用し、第三者に安価で再販する攻撃である。
GTIG・Mandiantは最近の攻撃が北米・南米・アジア太平洋で発生し、金融・流通・技術・運送企業などが対象だと明らかにした。
報告書は対策として、threat hunting、shadow LLMの把握、APIキー権限の細分化、自動化されたsecret scanningを提示した。
企業のAIモデルへのアクセス権限を狙った「LLMJacking」攻撃が拡大している。この攻撃は、盗み取ったAPIキーでAIモデルを無断利用し、盗み取ったAPIキーを基に第三者に低価格で再販する手口で行われる。その結果、企業には莫大な利用料金が発生し、企業のAI資源管理強化とセキュリティ強化の必要性が高まっている。
Google Threat Intelligence Group(GTIG)・Mandiantは先月4日、「LLM jacking」脅威レポートを発表した。このレポートによると、最近の攻撃は北米・南米・アジア太平洋で発生し、金融・流通・技術・運送企業などが攻撃対象業種として挙げられた。
レポートは、LLMJackingがCryptoJackingとは異なり、資源を徐々に消耗させる方式ではないと説明した。代わりにLLMJackingは大規模なAPI呼び出しが特徴であり、これによって短期間で莫大な費用が発生する結果につながると指摘した。
大規模言語モデルに関連する不正利用被害は短期間で急増する様相を見せた。1日で10万ドル以上の不正利用料金が発生した事例があり、一部企業では無断アクセスを遮断する前に累積被害額が100万ドルに達した事例も確認された。
攻撃者の初期アクセス経路としては、資格情報の窃取が挙げられた。これらの攻撃者はsession hijackingを活用して標的環境に侵入し、公開されたGitHubリポジトリに露出した有効な資格情報も収集したという。
John Hultquist GTIG上級アナリストは、攻撃者がLLMJackingを積極的に活用し、防御側に対して規模の優位を追求していると説明した。また攻撃者がagenticツールを活用し、被害者が認識しない状態でトークンを盗み出し、それを基に攻撃規模を拡大していると明らかにした。
これらの主な収益モデルとしては、闇市場での収益化と「LLM Mixers」が示された。攻撃者は盗み取ったAPIキーを不正なプロキシゲートウェイ(中継サーバー)に束ね、こうして確保したモデルの無断アクセス権をサイバー犯罪の闇市場で大幅な割引価格で再販して利益を生み出した。
ある不正なトークンルーティングサービスは、購入者を対象に月60ドル程度でfrontierモデルの無制限利用を提供しており、これによるモデル利用費用は被害企業に約100万ドル請求された事例が示された。この事例は、低価格の無制限利用提供の後に実際の費用が被害企業に転嫁された構造を示した。
これを背景に同社は、LLMJacking攻撃が拡大していると述べ、企業のAI資源管理の重要性が高まっていると指摘した。同社は対応策として、戦略的脅威検知のためのthreat hunting、組織内の無許可LLM(shadow LLM)の現況把握、APIキー権限の細分化、自動化されたsecret scanningを提示した。
John Hultquist GTIG上級アナリストは、コスト爆弾を防ぎ、攻撃者の低コストな自律型攻撃からコミュニティ全体を保護するため、企業がLLM資源へのアクセスを厳格に統制する必要があると明らかにした。彼は、AIモデル・コンピューティング資源が不十分に監視・保護されれば第三者によって無断悪用されうると見て、資源の利用履歴を徹底的に点検し、多要素認証(MFA)を有効化し、アカウント情報を慎重に管理するよう勧告した。
出典：TECHWORLD · キム・ヘジン 原文：https://www.epnc.co.kr/news/articleView.html?idxno=409293
参考資料
本記事は、TECHWORLDの原文をもとにBizCrushがAIを用いて要約・再構成・編集したものであり、TECHWORLDの原文そのものではありません。
出典 TECHWORLD
原文を確認本記事は、TECHWORLDの原文をもとにBizCrushが要約・編集したものです。正確な引用や詳細は原文をご確認ください。