SecurityScorecard以「AI TPRM Benchmark」評估 AI 供應鏈安全
TECHWORLD ·
✦ AI 摘要
SecurityScorecard 於 6 日宣布推出 AI TPRM Benchmark。
這項 Benchmark 設計用來評估 AI 模型的第三方風險管理執行能力與因應網路攻擊的能力。
評估項目包括 Security Telemetry 解讀、資安曝險風險優先順序排序，以及對 Prompt Injection 與 Jailbreak 的因應。
BizCrushWant to follow Korean talks and live streams in real time?Try BizCrush Live
隨著 AI 在企業安全工作中的導入擴大，在部署前確認該模型是否能實際承擔資安工作的重要性也日益提高。
對此，SecurityScorecard 於 6 日宣布推出「AI TPRM Benchmark」。這項「AI TPRM Benchmark」以評估 AI 模型執行第三方風險管理與因應網路攻擊的能力為目標，並協助企業在將 AI 模型導入核心第三方風險管理工作前，客觀評估其能力與復原力，同時提供標準化框架。
這項 Benchmark 的設計目的，是補強既有 AI Benchmark 無法反映 TPRM 實際營運環境的限制。其執行項目包括解讀 Security Telemetry、排定資安曝險風險優先順序，以及評估不完整、具誤導性或可被操弄的供應商提供資訊。
SecurityScorecard 表示，公司運用獨有的供應鏈風險分析資料與專業知識，基於真實第三方風險情境建構 TPRM Benchmark。藉此，該公司希望評估 AI 在企業 TPRM 環境中的決策回應、面對衝突資訊的處理能力，以及對對抗性輸入的抵禦能力。
TPRM Benchmark 整合了 AI 評估的 2 大核心領域。核心領域 1 為 AI Supply Chain Security Capability，核心領域 2 為 AI Model Resilience。
其中，AI Supply Chain Security Capability 是以實際 TPRM 與供應鏈安全工作表現作為評估標準。評估項目包括 Exposure Triage、Breach Correlation、Vendor Risk Concentration Analysis、Vulnerability Prioritization。
AI Model Resilience 的評估，則以同一模型的自我防禦能力為對象，意指能否抵禦 Prompt Injection、Jailbreak，以及以操弄模型結論為目的的欺騙性供應商輸入。這類防禦對象攻擊屬於一般供應鏈攻擊與對抗性攻擊的範疇。
SecurityScorecard 共同創辦人兼 CEO Aleksandr Yampolskiy 表示，未經測試就把 AI agent 導入供應商風險管理計畫，就像在第一天把特權存取權限交給新進員工一樣。他提出資安主管的 2 個核心問題，首先是這個模型是否真能完成工作，其次是它是否可能被攻擊者武器化。他並指出，若無法回答這 2 個問題，就不可能透過 AI 取得競爭優勢，而在這種狀態下導入 AI 會形成新的攻擊面，凸顯驗證 AI 能力的重要性。
在供應鏈領域導入 AI 的多數企業，目前都沒有辦法驗證供應鏈工作用 AI 模型是否具備抵禦對抗性攻擊的能力。這些企業主要優化的目標是準確度、成本與速度，而對復原力進行評估的案例相當少見。
在這樣的背景下，學界專家將嚴謹的評估體系視為這項 Benchmark 的差異化重點。紐約大學電腦科學教授、International Association for Cryptologic Research、IACR Fellow 兼 Yevgeniy Dodis 表示，TPRM Benchmark 的特色在於以真實資安資料為基礎的供應鏈情境來評估 AI。他並指出，嚴謹且可重現的評估框架，有助於在關鍵基礎設施領域 AI 導入加速之際，縮小 Benchmark 表現與實際環境安全之間的落差。
SecurityScorecard 表示，為共同開發 Benchmark 用的測試與評估方法，已邀請部分 AI 研究機構、開發商、資安企業與研究人員參與。為了促進參與，該公司將 Benchmark 框架以開源方式公開，並說明參與者可用該框架測試 AI 模型與 agent。
此外，參與者在提交測試結果後，也可以分享 Public Leaderboard。Mike Mylrea，SecurityScorecard 的 CISO 兼 Chief AI Officer 表示，初期 Benchmark 測試結果顯示，open-weight 模型在供應鏈安全工作上的表現，與主要最先進模型之間的差距已縮小。不過，他也指出，多數這類模型仍對對抗性攻擊非常脆弱。
他表示，隨著 AI 逐漸承擔更重要的資安工作，企業對模型的評估已不只是單純的效能比較；企業必須找出各項工作中表現最佳的模型，並驗證當有人刻意嘗試操弄模型時，該模型是否仍能正常運作。
來源: TECHWORLD · Kim Hye-jin 原文: https://www.epnc.co.kr/news/articleView.html?idxno=409372
參考資料
本文由 BizCrush 在自動生成演算法的協助下撰寫。
來源 TECHWORLD
查看原文本文由 BizCrush 根據 TECHWORLD 原文摘要整理。準確引文與細節請參閱原文。
Keep reading
BizCrush