DEEPX 與 Intel 驗證 AI 推論技術　擴大下一代 NPU 事業

DEEPX 與 Intel Korea 推動 AI 推論技術合作。DEEPX 12日在首爾 COEX 宣布，已與 Intel Korea 簽署 AI 半導體技術合作 MOU。

除了與 Intel Korea 的 MOU 之外，DEEPX 同日也與 KTNF 簽署了另一起三方 MOU。KTNF 是國內伺服器專業企業。

這份三方 MOU 的目的，在於建立涵蓋 AI 半導體、軟體與伺服器系統的異質運算基礎 AI 伺服器合作體系。藉此，合作範圍也擴大到伺服器系統。

核心合作領域是 Intel OpenVINO 與 DEEPX NPU 的串接與最佳化。OpenVINO 是一套開源軟體工具組，支援 AI 模型在多種運算環境中的高效率執行。

雙方將檢視在 OpenVINO 環境中運用 DEEPX NPU 時，AI 模型轉換與執行環境之間的相容性，並尋找最佳化方案。構想是在維持既有 AI 模型與開發工具使用的同時，打造更容易套用 DEEPX NPU 的開發環境。

合作將從既有軟體串接進一步擴大到 physical AI 與 edge AI 平台。雙方計畫結合 Intel x86 處理器的主機與控制功能，以及 DEEPX NPU 的感知與推論功能，驗證異質運算平台的技術可能性。

在此過程中，雙方將推動機器人領域示範，並尋找擴大機器人領域實際應用可能性的方案。合作對象也包括下一代生成式 AI 解決方案開發，並檢討 DEEPX 目前開發中的下一代生成式 AI NPU「DX-M2」的應用。同時，也將檢討企業用 AI appliance 實現的可能性與 on-device AI 服務實現的可能性。

DX-M2 是以 Samsung Electronics 2奈米製程開發中的 AI 半導體。DX-M2 目標是在約 5W 的低功耗環境下驅動 LLM 與 VLM。DEEPX 計畫藉此為電力與空間限制較大的 edge 環境，建立生成式 AI 的應用基礎。

KTNF 參與的三方協議，意味著合作範圍擴大至伺服器系統。透過這一點，雙方將推動以異質運算為基礎、以 AI 半導體與軟體實際應用於伺服器環境為目標的合作，這也是從個別晶片層級驗證，進一步尋求系統層級應用可能性的趨勢。

DEEPX 表示，代表理事 Kim Nok-won 去年10月在美國矽谷與 Intel OpenVINO 開發團隊相關人士會面。雙方在這場合討論了自家 NPU 與 OpenVINO 的串接，以及 AI 模型最佳化方案。

來源: TECHWORLD · Park Gyu-chan 原文: https://www.epnc.co.kr/news/articleView.html?idxno=409732

參考資料

• https://www.epnc.co.kr/news/articleView.html?idxno=409732