AIDC設計、建置、營運串連的SI企業…整合能力受關注
IT DAILY ·
✦ AI 摘要
國內SI企業正因應AIDC市場擴大，強化基礎設施建置與營運競爭力，以及客製化整合設計與營運支援。
Gartner指出，高價GPU叢集常以15%至20%未滿的效率運作，並分析GPU利用率受網路、儲存與資源管理方式影響。
Snetsystem與GS ITM強調，透過GPU、網路、儲存整合營運，以及電力、冷卻設計與監控體系建置，可優化涵蓋建置後階段的AIDC營運。
隨著AIDC市場擴大，國內SI企業正推動強化基礎設施建置與營運競爭力。這些企業以既有IT基礎設施事業累積的技術與經驗為基礎，展現出強化涵蓋設計、建置、營運能力的趨勢。
國內SI企業正擴大針對客戶AI工作負載的客製化整合設計，也在擴大針對客戶AI工作負載的營運支援。這也延伸為在AIDC環境中，同步強化符合客戶需求的基礎設施設計與整體營運的動向。
為了提高AIDC投資成效，除了GPU效能之外，也需要在實際使用過程中減少浪費。僅僅取得高價GPU，並不能保證足夠成果；若實際運算利用不足，投資報酬可能不如預期。
Gartner於去年5月發表「2026 GPU Optimization Playbook」。Gartner指出，高價GPU叢集以低於15%至20%效率運作的案例相當多，並分析GPU利用率偏低是造成企業AI財務浪費的主要問題。
GPU利用率不僅受運算裝置本身影響，也受周邊基礎設施與資源管理方式影響。若網路與儲存的資料傳輸延遲，GPU的非運算時間就會增加。因此，有必要掌握依工作分配的GPU使用狀況，也需要能因應需求進行GPU重新配置的體系。
在同樣脈絡下，AIDC也需要在電力與冷卻設計中反映實際營運中的GPU規模與工作特性。能源經濟研究院於去年底發表「AI 時代資料中心增加的國內能源消費啟示」。能源經濟研究院說明，AIDC的電力消費波動幅度比既有資料中心更大，並將提升設備利用率、電力管理設計，以及工作與資源管理最佳化，作為提升資料中心能源效率的方法。因此，AIDC有必要同時檢視IT基礎設施資源利用與設施條件。
隨著這些條件一併變得重要，具備將各類設備與解決方案整合為單一系統優勢的SI企業，其角色也呈現擴大態勢。
Snetsystem支援涵蓋GPU、網路、儲存的整合AI運算環境建置與營運，並負責建置後的營運支援。該公司已累積大型服務業者GPUaaS基礎設施營運經驗，並以此支援客戶導入設備在實際服務中的穩定且高效率運用。
為此，Snetsystem運用NVIDIA Run:ai等GPU資源管理平台。透過這些平台，可支援多名使用者與多個專案共享GPU，依工作優先順序與需求進行資源分配，並促進各專案所需資源的取得與未使用GPU的縮減。
在周邊基礎設施設計方面，重點放在及時供應GPU運算所需資料。大規模訓練環境著重於讓GPU之間的資料交換更順暢；推論服務環境則考量回應速度與同時請求處理能力，來配置伺服器、網路與儲存。
營運中若發生障礙，會先檢查個別設備。同時，也會檢查GPU、網路與儲存的連動狀態。
Snetsystem表示，若要提高AI基礎設施投資效果，比起導入資源，資源利用最佳化與營運支援更為重要。Snetsystem相關人士指出，僅投資高價GPU等IT資源，若缺乏有效利用，便難以提升投資報酬。
該人士接著表示，公司希望依客戶的AI使用目的，具體化基礎設施與服務，並成長為支援穩定營運的夥伴。
GS ITM正透過AIDC設計、建置、營運的連動，致力提高基礎設施利用效率。代表案例是約4MW級邊緣型AIDC的獨山資料中心，目前正在建置中。
GS ITM在該案中，從設計階段起便負責IT基礎設施整體。AIDC設計的起點，是決定要執行的AI工作負載與GPU配置，之後再依各機櫃的耗電與發熱量調整供電與冷卻。此過程中，設計考量也納入對高密度GPU負載變動的因應、未來GPU更換的容納，以及可支援轉換至液冷的擴充性。
在營運階段，則建置整合IT基礎設施與設施資料的監控體系，以掌握GPU稼動率與能源效率，同時處理障礙應對。作為支撐基礎，該公司提出20年累積的IT外包與集團公司基礎設施整合營運經驗，以及以生成式AI為基礎的ITSM平台。
GS ITM認為，SI企業的角色將從建置承包商轉變為負責規劃到營運的AI基礎設施夥伴。因此，在支援客戶AX方面，將以標準化獨山資料中心經驗的都會型AIDC整合SI模式為核心。
GS ITM提出以AI為基礎的整合監控、營運自動化、能源診斷與高效率化事業，作為支援客戶AX的手段。該公司表示，將強化涵蓋建置後營運階段的支援體系。
另一方面，也有人建議，為了讓AIDC產業持續成長，需要在取得基礎設施之後仍納入考量的長期作法。Snetsystem強調，從基礎設施建置到實際服務利用與成果產出都需要時間，並說明與其以短期業績標準判斷投資價值，不如累積技術與營運經驗，並創造新的需求。
Snetsystem認為，將國內製造業的現場經驗與專業連結到AI服務上很重要。作為解決現場問題的AI服務例子，提出了品質檢查與製程最佳化。Snetsystem表示，這類服務的擴散，是擴大AIDC利用價值所必需的。
為此，Snetsystem提出需要支援製造企業與AI、基礎設施企業之間的合作。合作範圍涵蓋從課題發掘到服務開發、實證、商業化的整個過程。Snetsystem相關人士表示，若基礎設施投資與產業現場需求形成良性循環，AIDC產業就有可能持續成長。
GS ITM建議，參與AIDC的企業應從設計初期階段就建立合作文化。GS ITM表示，除了取得個別技術外，還需要能將其實現為單一系統的合作基礎。GS ITM相關人士說明，AIDC是一個結合IT、電力、冷卻與營運的單一系統。
GS ITM指出，若要讓合作持續，還需要具備支撐事業的條件。GS ITM相關人士表示，需要與地方社區透明溝通，並補充也需要擴充電力基礎設施與一致的許可標準。此外，也表示產業與政府需要關注複合型人才的培育。
來源: IT DAILY · Yang Seung-gap 原文: https://www.itdaily.kr/news/articleView.html?idxno=242693
參考資料
本文由 BizCrush 在自動生成演算法的協助下撰寫。
來源 IT DAILY
查看原文本文由 BizCrush 根據 IT DAILY 原文摘要整理。準確引文與細節請參閱原文。