[기고] AI 시대에는 ‘의도적 멀티클라우드’로

아이티데일리에 실린 데니스 스미스 가트너 수석 애널리스트의 글은 AI의 기업 멀티클라우드 접근 방식 변화를 다뤘다. 글은 과거 멀티클라우드의 성격이 벤더 종속 회피·시스템 이중화 목적의 방어적 전략이었다면, 현재 멀티클라우드의 위상은 기업의 선제적 기술 요건으로 바뀌었다고 짚었다.

이어 기존 멀티클라우드 전략 상당수의 근거 부족을 지적했다. 특히 문제점으로 워크로드 기반의 명확한 도입 근거 부재, 데이터 반출 비용에 대한 과소평가, 클라우드 간 통합 복잡성에 대한 과소평가를 제시했으며, 이에 따라 기존 방식의 유효성 상실이 나타났다고 설명했다.

글은 이런 변화의 원인으로 AI 인프라의 특수성으로 클라우드 의사결정 방식 변화가 일어났다고 봤다. 이에 따라 기업에는 공급업체 무분별 확대 방식 탈피가 필요하며, 대안으로 '의도적 멀티클라우드' 전환을 제시했다. 또 변화 요인 3가지를 제시했는데, 요인 1은 공급업체별 AI 역량 차이, 요인 2는 강화되는 디지털 주권·데이터 레지던시 요건, 요인 3은 GPU·특수 하드웨어 부족에 따른 공급망 불안정이라고 밝혔다.

AI 워크로드는 단일 범용 기술 스택에 고정할 수 없으며, 워크로드 배치는 가용 컴퓨팅 자원과 모델별 아키텍처 적합성을 기준으로 이뤄져야 한다. 이에 따라 기술적·경제적 요건을 바탕으로 워크로드 배치 환경을 결정하는 것이 중요하며, 이는 의도적 멀티클라우드의 핵심으로 제시된다. 이 과정에서 인프라 및 운영(I&O) 리더는 구매 중심 전략에서 이탈해 분산 생태계를 능동적으로 조율하는 방향으로 역할 전환이 요구된다.

이 같은 분산 클라우드 환경의 AI 운영에서는 '데이 2(Day 2) 거버넌스'가 중요하며, 비용·성능·보안을 지속 관리하는 운영 요건이 강조된다. 통합 거버넌스 체계가 부재할 경우 운영 복잡성이 증가하고 지출 통제가 곤란해질 수 있으며, 사업 부서가 IT 부서를 우회해 전문 자원 활용을 시도할 가능성도 있다. 그 결과 '섀도 AI' 확산으로 이어질 수 있어, I&O 조직에는 멀티클라우드를 AI 혁신의 제약이 아닌 기반으로 만들기 위한 전략적 역할 강화가 과제로 제시된다.

클라우드 환경에서는 구조적 변화가 다수 나타나면서 멀티클라우드가 AI 필수 기술로 자리잡고 있다. 이에 따라 워크로드 배치 방식·위치 변화가 진행되고 있으며, 기업에는 역량 중심·의도적 접근이 요구된다.

이 과정에서 클라우드 서비스 공급업체(CSP)는 AI 스택 각 계층의 전문성을 강화하고 있으며, '올인원' 클라우드 사업자 시대는 약화하고 있다. 그 결과 주요 데이터는 한 클라우드에, 특정 대규모 언어 모델(LLM)·학습 클러스터는 다른 클라우드에만 존재할 가능성이 커지면서 'AI 중력(AI gravity)' 현상이 발생하고 있다.

이 같은 분산 환경에서는 전체 데이터세트 이전 없이 사업자별 전문 역량을 활용하는 것이 중요해지며, 이를 위해 클라우드 간 고성능 연결이 필요하다. 또한 규제 환경 변화는 해당 흐름을 가속하고 있다.

각국은 데이터의 특정 관할권 내 저장·처리를 요구하는 소버린 클라우드 의무를 도입하고 있다. 이에 글로벌 기업은 지역별 상이한 규제·데이터 레지던시·국가 안보 요건을 충족해야 하며, 이런 이유로 글로벌 기업에 멀티클라우드는 필수다.

AI 수요 급증으로 클라우드 인프라 공급 제약이 확대되고 GPU·특수 하드웨어 부족이 이어지면서, 단일 사업자만으로 모든 워크로드 요구사항의 안정적 충족이 곤란해졌다고 분석된다. 이에 따라 필요 시 컴퓨팅 자원·클라우드 버스팅 기능 확보 수단으로 멀티클라우드의 필요성이 커지고 있다.

과거 멀티클라우드가 근거 부족 속에 전략화된 원인으로는 기술적 성숙도 부족이 지목된다. 그러나 최근 클라우드 간 네트워킹 기술, 통합 컨트롤 플레인 기술, 다중 데이터센터 자원 풀링 기술이 등장하면서 상황이 변화했다.

해당 기술 등장으로 분산 아키텍처의 실질 구현이 가능해졌고, 상이한 환경 간 워크로드 이동 용이성과 상이한 환경 간 관리 정책 적용 용이성이 향상됐다. 또한 통합 기술의 도입 장벽이 완화됐고, 통합 기술은 환경 간 워크로드 이동과 환경 간 관리 정책 적용을 원활하게 하는 기반이 되고 있다.

AI 기반 멀티클라우드 전략 실행에는 실행 조건·기본 역량만으로는 불충분하며, 체계적·지속적 관리 방식 도입이 필요하다. 특히 멀티클라우드 AI 환경에서는 비용 관리·최적화 복잡성이 증가하는데, 그 원인으로는 클라우드별 가격 정책 상이, 클라우드별 사용량 지표 상이, 데이터 이동 비용 발생이 제시된다. 이에 따라 I&O 조직의 과제로는 AI 서비스와 주 스토리지 간 데이터 이동 비용 예측, 세분화된 데이터 반출 비용 모델 마련, 데이터 이동 비용 절감 지원이 요구된다.

비용 영역의 대응을 위해서는 자동화된 핀옵스(FinOps) 도구 확보와 중앙집중식 비용 가시성 확보가 필수 요소로 꼽힌다. 자동화된 핀옵스(FinOps) 도구와 중앙집중식 비용 가시성은 유휴 자원 파악, 지출 최적화, 워크로드의 경제적·기술적 최적 환경 배치에 효과를 낸다.

보안 측면에서는 AI 워크로드의 여러 공급업체 분산으로 파편화된 보안 체계가 위험 노출을 확대하는 만큼, 모든 클라우드 환경에 일관 적용되는 통합 신원 중심 체계로 발전할 필요가 있다. 또 규제 준수와 민감 데이터 보호를 위해 연합 모델 기반 신원 및 접근 관리 표준화가 필요하며, 공급업체 비종속 암호화 적용, 클라우드 간 보안 태세 관리 도구 도입, 서드파티 활동 선제 파악·관리, 섀도 AI 활동 선제 파악·관리도 함께 요구된다. 이는 새로운 위험 사각지대 방지를 위한 조치다.

운영 효율 제고 조건으로는 AI 자산·시스템의 체계적 관리와 포괄적 관측 가능성 확보가 제시된다. 이를 위해서는 모든 AI 자원 대상 단일 정보 체계 구축이 필요하며, 종료된 실험의 방치 자원 지속 가동 방지를 위한 AI 모델 수명주기 관리 정책도 필요하다. 또 에이전트의 무분별한 확산 최소화를 위한 통합 관리 방식이 필요하고, 공급업체별 텔레메트리의 하나의 관측 계층 통합도 요구된다. 필요한 요소로는 일관된 성능 지표, 분산 추적, 중앙집중식 경보 체계가 꼽히며, 이는 복잡한 크로스클라우드 AI 환경의 실시간 파악과 문제 해결 속도 향상에 기여한다.

AI 확산에 따른 변화로 멀티클라우드의 필수화가 진행되고 있지만, 여러 클라우드 도입만으로 경쟁력 확보는 불가하다. 이에 따라 워크로드의 최적 환경 배치가 필요한 운영으로 제시되며, 비용, 성능, 보안, AI 자산을 일관된 체계로 관리해야 한다. 이 과정에서 I&O 조직 역할 변화도 요구되며, 클라우드 구매를 넘어 분산 생태계 조율로 역할이 확대된다. 이 같은 운영 역량을 확보할 경우 멀티클라우드는 복잡성의 원인이 아니라 AI 혁신 기반으로 기능한다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241293

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241293