AIDC 설계·구축·운영 잇는 SI 기업…통합 역량 주목

AIDC 시장이 확대되면서 국내 SI 기업들은 인프라 구축·운영 경쟁력 강화를 추진하고 있다. 이들은 기존 IT 인프라 사업에서 축적한 기술·경험을 기반으로 설계·구축·운영을 아우르는 역량을 강화하는 흐름을 보이고 있다.

국내 SI 기업들은 고객 AI 작업 맞춤형 통합 설계를 확대하고 있으며, 고객 AI 작업 맞춤형 운영 지원도 확대하고 있다. 이는 AIDC 환경에서 고객 수요에 맞춘 인프라 설계와 운영 전반을 함께 강화하려는 움직임으로 이어지고 있다.

AIDC 투자의 성과를 높이기 위해서는 GPU 성능 외에도 실제 활용 과정에서의 낭비 절감이 필요하다. 고가 GPU 확보만으로는 충분한 성과를 보장하기 어렵고, 실제 연산 활용이 부족할 경우 투자 대비 성과가 미흡할 수 있다.

가트너는 지난 5월 '2026 GPU 최적화 플레이북'을 발표했다. 가트너는 고가 GPU 클러스터가 15~20% 미만의 효율로 운영되는 사례가 다수라고 지적했으며, GPU의 낮은 활용도가 기업 AI의 재정적 낭비를 초래하는 주요 문제라고 분석했다.

GPU 활용도는 연산 장치 자체뿐 아니라 주변 인프라와 자원관리 방식의 영향도 받는다. 네트워크와 스토리지의 데이터 전송이 지연되면 GPU의 비연산 시간이 증가한다. 이에 따라 작업별로 할당된 GPU의 사용 현황을 파악할 필요가 있으며, 수요에 대응하는 GPU 재배분 체계도 필요하다.

같은 맥락에서 AIDC는 전력·냉각 설계에 실제 운영 GPU 규모와 작업 특성을 반영할 필요가 있다. 에너지경제연구원은 지난해 말 'AI 시대 데이터센터 증가의 국내 에너지 소비 시사점'을 발간했다. 에너지경제연구원은 AIDC의 전력 소비 변동 폭이 기존 데이터센터 대비 크다고 설명했으며, 장비 이용률 개선과 전력 관리 설계, 작업·자원관리 최적화를 데이터센터 에너지 효율을 높이는 방안으로 제시했다. 이에 따라 AIDC는 IT 인프라 자원 활용과 설비 조건을 동시에 점검할 필요가 있다.

이런 조건들이 함께 중요해지면서 다양한 장비와 솔루션의 단일 시스템 통합 강점을 보유한 SI 기업의 역할이 확대되는 양상이다.

에스넷시스템은 GPU·네트워크·스토리지 통합 AI 컴퓨팅 환경 구축·운영을 지원하며, 구축 이후 운영 지원까지 맡는다. 이 회사는 대형 서비스 사업자 GPUaaS 인프라 운영 경험을 축적해 왔으며, 이를 바탕으로 고객 도입 장비의 실제 서비스 내 안정적·효율적 활용을 지원한다.

이를 위해 에스넷시스템은 엔비디아 Run:ai 등 GPU 자원관리 플랫폼을 활용한다. 이를 통해 복수 사용자·프로젝트의 GPU 공유를 지원하고, 작업 우선순위·수요 기반 자원 배분을 수행하며, 프로젝트별 필요 자원 확보와 미사용 GPU 축소를 도모한다.

주변 인프라 설계에서는 GPU 연산용 데이터의 적시 공급에 초점을 맞춘다. 대규모 학습 환경에서는 GPU 간 데이터 교환 원활화에 중점을 두고, 추론 서비스 환경에서는 응답속도·동시 요청 처리 능력을 고려해 서버·네트워크·스토리지를 구성한다.

운영 중 장애가 발생하면 개별 장비를 점검한다. 이와 함께 GPU·네트워크·스토리지의 연계 상태도 점검한다.

에스넷시스템은 AI 인프라 투자 효과를 높이려면 자원 도입보다 활용 최적화와 운영 지원이 중요하다고 밝혔다. 에스넷시스템 관계자는 고가 GPU 등 IT 자원 투자만으로는 효율적 활용이 없을 경우 투자 대비 성과 제고에 한계가 있다고 밝혔다.

이어 에스넷시스템 관계자는 고객의 AI 활용 목적별로 인프라와 서비스를 구체화하는 것을 추진하고, 안정적 운영을 지원하는 파트너로 성장해 나가고자 한다고 밝혔다.

GS ITM은 AIDC 설계·구축·운영 연계를 통해 인프라 활용 효율 제고에 주력하고 있다. 대표 사례는 약 4MW급 엣지형 AIDC인 독산 데이터센터로, 현재 조성 중이다.

GS ITM은 해당 사업에서 설계 단계부터 IT 인프라 전반을 통합 담당하고 있다. AIDC 설계의 시작점은 수행할 AI 작업과 GPU 구성을 결정하는 것이며, 이후에는 랙별 전력 소모와 발열량에 맞춰 전력 공급과 냉각을 조정하는 방식으로 설계한다. 이 과정에서는 고밀도 GPU 부하 변동 대응, 향후 GPU 교체 수용, 액체냉각 전환 수용 가능 확장성을 설계 고려사항으로 반영하고 있다.

운영 단계에서는 IT 인프라·설비 데이터를 통합한 관제 체계를 구축해 GPU 가동률·전력효율을 파악하고 장애 대응까지 함께 수행한다. 이를 뒷받침하는 기반으로는 20년간 축적한 IT 아웃소싱·그룹사 인프라 통합운영 활용 경험과 생성형 AI 기반 ITSM 플랫폼이 제시됐다.

GS ITM은 SI 기업의 역할이 구축 사업자에서 기획~운영 책임 AI 인프라 파트너로 변화할 것으로 봤다. 이에 따라 고객 AX 지원 방향으로는 독산 데이터센터 노하우를 표준화한 도심형 AIDC 통합 SI 모델을 중심에 두겠다고 밝혔다.

GS ITM은 고객 AX 지원 수단으로 AI 기반 통합 관제·운영 자동화·에너지 진단·고효율화 사업을 제시했다. 이를 통해 구축 이후 운영 단계까지 포괄하는 지원 체계를 강화하겠다는 방침을 밝혔다.

한편 AIDC 산업의 지속 성장을 위해서는 인프라 확보 이후까지 고려한 장기 접근이 필요하다는 제언도 나왔다. 에스넷시스템은 인프라 구축 후 실제 서비스 활용·성과 창출까지는 시간이 소요된다고 강조했으며, 단기 실적 기준으로 투자 가치를 판단하기보다 기술·운영 경험을 축적하고 새로운 수요를 창출할 필요가 있다고 설명했다.

에스넷시스템은 국내 제조업의 현장 경험·전문성을 AI 서비스와 연결하는 점이 중요하다고 봤다. 현장 문제 해결형 AI 서비스의 예시로는 품질 검사와 공정 최적화가 제시됐다. 에스넷시스템은 이 같은 서비스의 확산이 AIDC 활용 가치 확대에 필요하다고 봤다.

에스넷시스템은 이를 위해 제조기업과 AI·인프라 기업의 협력 지원이 필요하다고 제시했다. 협력 범위는 과제 발굴부터 서비스 개발, 실증·사업화까지 전 과정이다. 에스넷시스템 관계자는 인프라 투자와 산업 현장 수요가 선순환할 경우 AIDC 산업의 지속 성장이 가능하다고 밝혔다.

GS ITM은 AIDC 참여 기업에 설계 초기 단계부터 협력하는 문화가 필요하다고 제언했다. GS ITM은 개별 기술 확보를 넘어 하나의 시스템으로 구현할 협력 기반이 필요하다는 취지를 밝혔다. GS ITM 관계자는 AIDC가 IT·전력·냉각·운영이 결합된 하나의 시스템이라고 설명했다.

GS ITM은 협력이 지속되기 위해서는 사업을 뒷받침할 여건 마련이 필요하다고 짚었다. GS ITM 관계자는 지역사회와의 투명한 소통이 필요하다고 밝혔고, 전력 인프라 확충과 일관된 인허가 기준도 필요하다고 덧붙였다. 아울러 융합형 인재 양성에 업계·정부의 관심이 필요하다고 밝혔다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=242693

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=242693