SKT、GPU・NPU結合型推論インフラの検証に乗り出す

AI TIMESによると、SKTが11月9日、Nvidia、RebellionsとともにGPUと国産NPUを結合した韓国型ソブリンAI推論インフラの共同開発と検証に着手した。核心は、Nvidia GPUがprefillを、Rebellions NPUがdecodeを担う分離型推論構造を実際のデータセンターで試し、性能と電力効率を高められるか確認する点にある。SKTは自社のAIデータセンター運営経験を基に統合システムの安定性と適用可能性を見極め、これを独自AIモデルと国民向けAIサービスにつなぐ案も推進する。今回の協力は、国産AI半導体をグローバルAIコンピューティング・エコシステムと連結し、活用範囲を広げようとする試みでもある。記事では、技術連携そのものよりも、実際のサービス環境で演算分担がどれだけ円滑に行われ、運用効率の改善につながるかが今後の競争力を分ける変数だと指摘した。また、公的部門と民間部門で活用できる韓国型AIインフラの事例をつくる試金石になる可能性にも注目した。