「遊休GPUを活用する」…AIDCのボトルネックを打ち破る『OpenK-Cloud』公開

韓国電子通信研究院(ETRI)は、AIDCのボトルネック解消のための『OpenK-Cloud』を公開した。ETRIは、異種AI半導体を単一のクラウド環境で効率的に統合し、無停止サービスを可能にするプラットフォーム技術を公開し、10日に韓国科学技術会館で『openKcloud DevDay 2026』を開催した。

この日の基調発表は、崔賢和ETRI技術統括が行った。崔技術統括はAIDCの構造的限界を指摘し、こうした限界を克服するための『OpenK-Cloud』の開発状況と主要成果、青写真を示した。

崔技術統括は、最近のAIインフラの核心課題として、アクセラレーター確保の後に異種チップを単一のクラウドで統合管理し、サービスと連携して運用する能力が浮上していると説明した。続けて、エンタープライズ環境で円滑な実際のサービス運用を支援するためのクラウドプラットフォーム技術が不可欠だと述べた。

写真は崔賢和ETRI技術統括がイベントで発表する様子で、権泳錫記者が撮影した。崔技術統括は、AIDCインフラ運営の最大の弱点として資源の非効率性を挙げた。アクセラレーター不足が続く中、データセンターのGPU割り当て率は約75%だが、GPUの実稼働率は50〜60%台にとどまっていると説明した。

崔技術統括は、AIDC運営で資源が十分に配置されても実際の活用が低い理由として、AIサービス構造の変化を挙げた。AIサービスがエージェント型へ進化し、モデルサービング以外に前処理ロジック処理の需要が拡大していると述べた。これに伴い、資源浪費の主な原因としてCPUボトルネックとスケジューリング制約が現れていると説明した。

同氏は、アクセラレーター1基当たり最低でも8〜11個のCPUコアが必要だと述べた。また、サーバー内にGPUの残余資源があっても、対応するCPUが不足すればGPUの孤立が発生すると説明した。GPUとCPUの組み合わせが崩れ、余剰資源があっても実際のサービスで活用しにくい構造になっていると指摘した。

あわせて、高密度GPU構成では1台のサーバー当たりGPU 8枚を束ねて運用すると説明した。しかし、サービス割り当て単位の事例が4枚または6枚のGPUである場合があり、4枚・6枚を割り当てた後に残る1〜2枚のGPUを効率的に分割活用することは難しいと述べた。このようなサーバー当たりのGPU束ね構造が、残余GPU活用を制約する要因だと説明した。

崔技術統括は、余ったGPUを他のサーバー資源と組み合わせて分割活用する方式にも限界があると説明した。ネットワークスイッチを1回経由するごとにレイテンシーが約20%増加するためだと述べた。GPU分割活用の難しさとネットワーク遅延の物理的限界が資源活用を阻害する要因だと説明した。

世界的ビッグテック企業のGoogle、AWS、Microsoftは、エージェンティックエンタープライズへの転換を推進している。これらの企業は、インフラの不均衡解消を目的に、Kubernetesオーケストレーションとの結合と自社チップの導入を並行して進めている。

ETRIは、同じ課題を解決する手段として、Kubernetesベースのプラットフォーム『OpenK-Cloud』を開発した。ETRIはこれとともに実証データも公開した。

『OpenK-Cloud』は、物理サーバーに搭載されたアクセラレーターを自動検知する。自動検知の対象アクセラレーターにはFuriosaAI、Rebellions、Tenstorrentなどが含まれる。また、『OpenK-Cloud』は専用ドライバー・SDKを無人でプロビジョニングする。

『OpenK-Cloud』の核心技術は、『無停止ローリングアップデート』である。この技術は、サービスを止めずに順次適用する方式で動作する。チップドライバーをアップグレードする際は、実行中の作業を他のサーバー(ノード)へ自動移行した後、当該サーバーを安全に空にし、サーバーを再起動および復旧する。ETRIはこれにより、サービスを中断しないドライバーアップグレード管理体系を実現した。

計算分離技術は、ローカルサーバーのAIアクセラレーター資源が不足した際に、タスクを遠隔サーバーのアクセラレーターへ移管できるよう適用されており、開発者がコードを直接修正する必要がないよう設計された。この技術は、ネットワーク応答速度とキャッシュ状態をリアルタイムで分析して最適なサーバーを選択する方式で、性能低下を抑えることに重点を置いた。実際に、Rebellionsの『AtomPlus』とTenstorrentの『P150』でテストを行った結果、ネットワーク遅延の増加幅を10%前後に抑え、これにより遠隔分散アクセラレーションの実効性を実証した。

崔統括は、これまで各機能の実証(PoC)に注力してきたと明らかにした。続けて、来年からはLLMサービスとオペレーター運用全般の最適化技術高度化に力を入れ、単純なベンチマーク段階を超える方針だと説明した。また、MRIベースの疾病予測など高度な医療・バイオの実際の推論サービスに国産NPUを投入する計画であり、商用レファレンスの確保も進めると明らかにした。

出典：IT DAILY · クォン・ヨンソク 原文：https://www.itdaily.kr/news/articleView.html?idxno=242814

参考資料

• https://www.itdaily.kr/news/articleView.html?idxno=242814