SKT、GPU·NPU 結合型推論基礎設施啟動驗證

據 AI TIMES 報導，SKT 於 11 月 9 日與 Nvidia、Rebellions 一起，啟動結合 GPU 與國產 NPU 的韓國型主權 AI 推論基礎設施共同開發與驗證。核心在於，透過在實際資料中心測試由 Nvidia GPU 負責 prefill、Rebellions NPU 負責 decode 的分離式推論架構，確認是否能提升效能與電力效率。SKT 將以自身 AI 資料中心的營運經驗為基礎，檢視整合系統的穩定性與適用性，並推動將其串接至自有 AI 模型與面向全民的 AI 服務。這次合作也是試圖將國產 AI 半導體連結到全球 AI 運算生態系，進一步擴大其應用範圍。文中指出，比起技術連結本身，未來競爭力的變數更在於實際服務環境中能否順利分擔運算，並帶來營運效率改善。文中也關注這可能成為打造可供公部門與民間使用的韓國型 AI 基礎設施案例的試驗場。