“클라우드만으론 추론 86% 감당 못해”…온디바이스·엣지 전략 ‘부상’

국내 AI 인프라가 데이터센터 전력난과 상면 고갈 등 물리적 한계에 직면한 것으로 나타났다. 액세스 파트너십은 퀄컴 의뢰로 보고서 '클라우드에서 엣지로: 한국의 분산형 AI가 창출하는 가치'를 발간했다.

이 보고서는 국내 AI 추론 연산 수요가 2030년까지 현재의 30배로 늘어날 것으로 전망했다. 국내 AI 인프라가 처한 제약 상황 속에서 향후 AI 추론 수요가 급증할 것이라는 분석이다.

보고서는 이 수요를 기존 클라우드 방식만으로 소화하려면 국내 데이터센터 용량을 최소 5배 확대해야 한다고 분석했다. 또한 중앙 집중형 클라우드만으로는 2030년 AI 추론 연산 수요의 86%를 감당하지 못한다고 봤다.

아울러 현재의 투자·증설 추세가 지속될 경우 연산 처리 역량이 86% 부족할 것으로 전망했다. 액세스 파트너십은 보고서에서 클라우드 중심으로 대응할 경우 극심한 공급 절벽에 직면한다는 취지를 밝혔다.

수도권 데이터센터의 전력 인입 제한과 수도권 데이터센터 부지 확보난으로 중앙 서버 증설만으로 수요 대응에 한계가 있다는 지적이 나온다. 여기에 연산 병목도 존재해 기존 방식만으로는 증가하는 수요를 감당하기 어렵다는 분석이다.

이런 상황에서 AI 중심은 텍스트 생성에서 '피지컬 AI(Physical AI)'로 이동하고 있다. '피지컬 AI(Physical AI)'의 적용 대상은 공장 설비·로봇·모빌리티이며, 특성은 실시간 제어다. 이에 따라 연산 병목의 영향 확대는 '피지컬 AI(Physical AI)'에서 더 치명적 결함으로 이어질 수 있다.

특히 산업용 로봇 팔과 고위험 작업 현장 자율 점검 설비에는 '10ms 이하' 실시간 결정론적 제어가 필수다. '10ms 이하' 제어가 필요한 이유는 작업자 안전·정밀 공정 때문이다. 그러나 중앙 클라우드 왕복 통신 지연 구조로 인해 중앙 클라우드 방식은 '10ms 이하' 기준을 충족할 수 없다.

여기에 보안 문제와 기술 주권 문제도 클라우드 단독 모델의 제약으로 작용한다. 산업 현장 핵심 공정 데이터가 외부 클라우드로 라우팅될 가능성이 있고, 외부 클라우드 라우팅 시에는 네트워크 경로상 데이터 배출물이 생성된다. 이 데이터 배출물은 공장 통신 아키텍처 노출 위험과 주요 노하우 노출 위험으로 이어질 수 있어 클라우드 단독 모델의 한계가 커지고 있다.

보고서는 핵심 기밀 보호와 소버린 규제 충족 목적상 외부망과 물리적 차단된 에어갭(Air-gapped) 환경이 필요하다고 지적했다. 또 에어갭(Air-gapped) 환경에서 독립 구동되는 로컬 인프라 처리가 필수라고 짚었다.

이 같은 전제에 따라 해법으로는 대규모 모델 학습을 중앙 클라우드가 담당하는 방안이 제시됐다. 실시간 추론과 민감 데이터 처리는 현장 엣지 서버와 단말 기기로 분산하고, 중앙 클라우드와 현장 분산 처리를 결합한 하이브리드 아키텍처를 구축하는 방식이다.

이런 흐름 속에서 AI 인프라 패러다임은 중앙 데이터센터 증설 경쟁에서 현장 말단 연산 분산으로 전환되고 있다. 이에 따라 국내 산업계에서는 클라우드와 엣지를 통합하는 인프라 체계 확보가 과제로 부상했으며, 이는 필수 생존 과제로 규정된다.

출처: 아이티데일리 (IT DAILY) · 권영석 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241999

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241999