Security

Kuntech 導入 NVIDIA 的 DGX B300…建立 AI 安全研究基礎設施

IT DAILY ·

Kuntech 導入 NVIDIA 的 DGX B300…建立 AI 安全研究基礎設施
NVIDIA 「DGX B300」 [圖片:NVIDIA]

✦ AI 摘要

Kuntech 19 日宣布,已導入 NVIDIA AI 超級運算系統 DGX B300,並建立 AI 安全研究基礎設施。

該基礎設施旨在讓公司不必依賴外部雲端,即可在內部執行 AI 模型強化學習、LLM 資安分析與 AI 供應鏈驗證。

Kuntech 計畫將這套基礎設施用於 ASH 的強化學習、open-weight 模型平行執行、LLM 動態分析,以及基於 AI-BOM 的供應鏈驗證。

BizCrushWant to follow Korean talks and live streams in real time?Try CapCrush on the web

Kuntech 長期從事軟體供應鏈、基礎設施、OT 等資安業務。2024 年開發了自有 SBOM 引擎,最近則公開了 AI 代理資安平台「ASH」。「ASH」

Kuntech 19 日宣布,已導入 NVIDIA AI 超級運算系統「DGX B300」,並建立 AI 安全研究基礎設施。藉由此次導入,即使不使用外部雲端,也能在公司內部執行 AI 模型強化學習、LLM 資安分析、AI 供應鏈驗證。

此次建立自有基礎設施的背景,在於 AI 安全研究所需運算規模擴大,以及外部雲端基礎運作的限制。此外,也需要搭載大容量 GPU 記憶體、用於執行與觀察 open-weight 模型的專用設備。

此外,金融、公部門、國防客戶也持續要求封閉網路、on-premises 環境。Kuntech 建立自有基礎設施的做法,正是因應雲端限制、專用設備需求與客戶環境要求的趨勢。

DGX B300 是一套搭載 8 顆 NVIDIA Blackwell Ultra GPU 的系統。單一裝置配備 288GB 的 HBM3e,總記憶體達 2TB 以上。NVIDIA 將該系統的 AI 訓練效能說明為 72PFLOPS,推論效能為 144PFLOPS。

Kuntech 將這套 AI 基礎設施的應用場景歸納為 3 個領域。第一項應用,是針對搭載於 ASH 的威脅偵測模型進行強化學習反覆訓練。公司目標是透過將分析結果作為獎勵訊號的內部訓練,提升偵測準確度與推論品質。

第二項應用是大型 open-weight 模型平行執行,第三項應用則是 LLM 動態分析。這是為了在企業導入公開模型之前,以及在 AI 代理營運之前,先檢查隱藏風險的作業;其方式是在同時驅動多個模型的情況下,以觀察內部運作與輸出的方式進行。過程中,會驗證對 prompt injection 反應與越獄等攻擊的反應。

Kuntech 透過 ASH 的「Model Gate」功能,執行基於 AI-BOM 的來源追蹤分析。藉此可在模型導入前追蹤訓練資料的來源與組成,並檢查資料污染與後門植入是否存在。

Kuntech 計畫將研究成果分階段套用至 ASH。LLM 動態分析結果將反映到能在代理執行期間阻擋攻擊的 runtime 保護功能,AI-BOM 為基礎的分析則將套用於 Model Gate 的供應鏈驗證功能。之後,將把事業擴大為可事前診斷與驗證企業、機構所導入 AI 模型風險程度的服務。

Kuntech 代表方赫俊表示,隨著 AI 擴散,模型與代理正成為新的攻擊面。他也說,這次設備導入讓公司得以憑藉自身能力完成 AI 驗證全流程。並表示,目標是以此為基礎,確立自己作為 AI 供應鏈資安領導企業的地位。

來源: IT DAILY · Kim Ho-jun 原文: https://www.itdaily.kr/news/articleView.html?idxno=243061

參考資料

本文由 BizCrush 在自動生成演算法的協助下撰寫。


本文由 BizCrush 根據 IT DAILY 原文摘要整理。準確引文與細節請參閱原文。

Keep reading

BizCrush
BizCrush showing live captions over an online meeting

BizCrush app

Live captions and summaries for meetings and calls

BizCrush Inc. · 執行長 Taemin Kwak

總部 100 Middlefield Rd, Menlo Park, CA 94025, USA

韓國辦公室 韓國首爾特別市江南區永東大路 602 號 6 樓 602 室內 Z112

客服 help@bizcrush.ai · 合作洽詢 business@bizcrush.ai

AI 聲明

部分功能使用生成式 AI。

這些功能在使用前皆會另行告知,並標示 AI 生成的結果。AI 產出內容僅供參考——做出重要決定前,請務必確認原始出處並諮詢專業人士。