企業 AI 帳號鎖定的「LLMJacking」擴散…1日 10 萬美元帳單風暴注意
TECHWORLD ·
✦ AI 摘要
LLMJacking 是以竊取來的 API 金鑰未經授權使用 AI 模型，並低價轉售給第三方的攻擊。
GTIG 與 Mandiant 指出，近期攻擊發生在北美、南美、亞太地區，金融、零售、科技、運輸企業等為目標。
報告提出的因應方式包括 threat hunting、掌握 shadow LLM、細分 API 金鑰權限，以及自動化 secret scanning。
鎖定企業 AI 模型存取權限的「LLMJacking」攻擊正在擴散。這類攻擊是以竊取來的 API 金鑰未經授權使用 AI 模型，並以竊來的 API 金鑰為基礎，向第三方低價轉售相關存取權限。結果，企業會產生龐大使用費用，強化企業 AI 資源管理與資安防護的必要性也隨之升高。
Google Threat Intelligence Group（GTIG）與 Mandiant 於 4 日發布了「LLM jacking」威脅報告。根據該報告，近期攻擊發生在北美、南美、亞太地區，金融、零售、科技、運輸企業等被列為攻擊目標產業。
報告說明，LLMJacking 與 CryptoJacking 不同，並非逐步消耗資源的方式。相反地，LLMJacking 的特徵是大量 API 呼叫，因此會在短時間內導致龐大成本。
與大型語言模型相關的不當使用損失，在短時間內出現暴增態勢。曾有案例在1天內產生超過 10 萬美元的不當使用費用，部分企業甚至在攔阻未經授權存取之前，累積損失已達 100 萬美元。
攻擊者的初始入侵途徑，被指出是憑證竊取。他們利用 session hijacking 滲透目標環境，也蒐集了公開 GitHub 儲存庫中外洩的有效憑證。
GTIG 資深分析師 John Hultquist 表示，攻擊者正積極運用 LLM jacking，並追求相對防禦方的規模優勢。他還指出，攻擊者利用 agentic 工具，在受害者未察覺的情況下竊取 token，並以此擴大攻擊規模。
他們的主要獲利模式包括暗網變現與「LLM Mixers」。攻擊者將竊來的 API 金鑰綁定到非法 proxy gateway（中繼伺服器），再把如此取得的模型未經授權存取權限，以大幅折扣價格在網路犯罪黑市轉售，藉此獲利。
有一項非法 token routing 服務向買家提供每月約 60 美元即可無限使用 frontier 模型，而因此產生的模型使用費用，則向受害企業請款約 100 萬美元。此案例顯示，低價提供無限使用之後，實際成本被轉嫁到受害企業身上。
在此背景下，該公司提到 LLMJacking 攻擊正在擴大，並指出企業 AI 資源管理的重要性日益提升。該公司提出的因應方案包括用於策略性威脅偵測的 threat hunting、掌握組織內未經授權的 shadow LLM 現況、細分 API 金鑰權限，以及自動化的 secret scanning。
GTIG 資深分析師 John Hultquist 表示，企業有必要嚴格控管 LLM 資源存取，以避免成本風暴，並保護整體社群免於攻擊者低成本、自主化的攻擊行動。他指出，若 AI 模型與運算資源缺乏充分監控與保護，就可能遭第三方未經授權濫用，並建議徹底檢視資源使用紀錄、啟用 MFA，且謹慎管理帳號資訊。
來源: TECHWORLD · Kim Hye-jin 原文: https://www.epnc.co.kr/news/articleView.html?idxno=409293
參考資料
本文由 BizCrush 在自動生成演算法的協助下撰寫。
來源 TECHWORLD
查看原文本文由 BizCrush 根據 TECHWORLD 原文摘要整理。準確引文與細節請參閱原文。