[인터뷰] “AI 워크로드, 클라우드가 늘 정답은 아니다”

AI가 실험 단계를 종료하고 실제 운영에 진입하면서 기업들은 워크로드 배치 위치를 재검토하고 있다. 예상 초과 비용이 발생하고 데이터 국경 내 보관 규제가 강화되면서 전면 퍼블릭 클라우드 전제가 약화됐고, 기사 제목 발언으로는 AI 워크로드에 클라우드가 항상 정답은 아니라는 견해가 제시됐다.

클라우데라는 이런 시장 변화 대응을 출시 배경으로 신규 플랫폼 '클라우데라 애니웨어 클라우드(Cloudera Anywhere Cloud)'를 출시했다. 이 플랫폼은 퍼블릭 클라우드·소버린 인프라·데이터센터에 분산된 데이터를 대상으로 데이터 이동·복제 없이 운영을 지원하며, 단일 관리 콘솔을 제공하고 AI·데이터 서비스 배포를 지원한다.

아이티데일리는 지난 20일(현지시간) 싱가포르 '이볼브26(EVOLVE26)' 현장 인터뷰를 진행했다. 인터뷰 대상은 찰스 샌즈버리 클라우데라 CEO와 아바스 리키 클라우데라 CBO 겸 응용 AI 부문 총괄이었으며, 두 사람은 시장 변화와 회사 대응 전략을 설명했다.

찰스 샌즈버리 클라우데라 CEO와 아바스 리키 CBO 겸 응용 AI 부문 총괄이 '이볼브26' 현장에서 기자들 질의응답에 나섰다. 사진은 양승갑 기자가 촬영했다.

이번 질의응답의 주제는 클라우드 비용 부담과 자체 인프라·클라우드·엣지 분산이었다. 최근 1년 사이 기업들의 AI 프로젝트 설계 방식이 바뀌고 있다는 점이 언급됐다.

샌즈버리 CEO는 과거 다수 기업이 AI 프로젝트를 설계할 때 워크로드의 실제 운영 위치에 대한 검토가 부족했고, 프로덕션 단계의 비용 구조에 대한 고려도 부족했다고 밝혔다. 이어 대규모 운영 이후 예상 초과 비용을 경험한 기업이 늘었고, 이런 비용 경험의 확산으로 상황이 변화했다고 설명했다.

이에 따라 기업들은 워크로드 성격별로 운영 환경을 나누기 시작했다고 전했다. 상시 운영되며 컴퓨팅 수요 예측이 가능한 작업은 자체 인프라에 배치하고, 단기·실험 성격 작업과 수요 변동이 큰 작업은 퍼블릭 클라우드에 배치하며, 지연 민감 작업은 엣지에 배치하는 흐름이 나타나고 있다고 밝혔다.

샌즈버리 CEO는 은행의 이상거래 탐지를 대표적 사례로 언급하며, 비용 부담이 큰 워크로드를 퍼블릭 클라우드에서 운영할 경우 비용이 자체 하드웨어 대비 4~5배까지 상승할 수 있다고 밝혔다. 그는 이런 점 때문에 퍼블릭 클라우드의 경제성을 다시 따져보는 움직임이 나타나고 있다고 설명했다.

다만 샌즈버리 CEO는 클라우드가 많은 이니셔티브에서 중요하다고 밝혔다. 그러면서도 비용 측면에서 많은 기업이 클라우드를 단순 범용재가 아닌 상대적으로 고가 자원으로 인식하고 있다고 덧붙였다.

기업의 워크로드 위치 결정 기준에는 비용 외 요소도 존재한다. 규제에 따라 데이터를 특정 국가·지역 내에 보관해야 한다는 요구가 늘어나면서, 데이터 주권이 워크로드 위치 결정 기준으로 부상하고 있다.

이런 흐름에 맞춰 각 지역에서는 자국 내 데이터 보관 수요를 겨냥한 클라우드 사업자가 증가하고 있다. 클라우데라는 이들 사업자 일부와 협업을 진행 중이다.

샌즈버리 CEO는 소버린 AI에 대한 관심이 매우 크게 증가하고 있다고 밝혔다. 그는 이러한 수요가 아시아태평양과 중동 유럽에서 특히 두드러진다고 설명했다.

온프레미스 재주목 흐름 속에서 온프레미스 환경에서의 추론 수요 확대와 데이터 통제 중요성 증대 전망이 제시됐다. 리키 CBO는 여러 업계 전망상 온프레미스 운영 추론 규모가 2배 이상 증가할 가능성이 있다고 봤다.

리키 CBO는 독점 데이터의 안전한 통제 아래 추론을 실행하는 역량의 중요성이 더 커질 것으로 내다봤다. 이 같은 요구에 대응하기 위한 방향이 제시됐다.

찰스 샌즈버리 클라우데라 CEO는 이에 맞춰 애니웨어 클라우드를 출시했다고 밝혔다. 애니웨어 클라우드는 온프레미스·소버린 인프라 등 배포 위치와 무관하게 데이터·AI 서비스를 클라우드와 같은 방식으로 운영하도록 설계됐고, 거버넌스는 일원 관리하도록 했다.

샌즈버리 CEO는 애니웨어 클라우드가 퍼블릭 클라우드 전용을 의미하는 것은 아니라고 설명했다. 그는 핵심이 어떤 컴퓨팅 환경에서도 클라우드와 같은 사용자 경험을 제공하는 데 있다고 밝혔다.

클라우데라는 최근 제품 출시에 지난 3년 투입 자원 약 10억 달러를 투입했으며, 이 중 연구개발 사용 8억 달러 이상을 배정했다. 샌즈버리 CEO는 이번 제품이 상당한 시간·인력·자본·프로세스 투입된 대규모 출시라고 밝혔다.

애니웨어 클라우드는 기존 주력 제품 클라우데라 데이터 플랫폼(CDP) 대체 아님이며, 샌즈버리 CEO는 CDP 투자 지속 방침을 밝혔다. 향후 CDP 7 추가 버전 출시 예정이고 CDP 8 제품군 출시 예정이며, 샌즈버리 CEO는 애니웨어 클라우드가 하이브리드 환경 맞춤 데이터 플랫폼이라고 설명했다. 이에 따라 애니웨어 클라우드와 CDP 병행 발전이 추진되며, 클라우데라는 이 플랫폼을 단일 제품 아닌 기능을 얹는 토대로 인식하고 있다.

클라우데라는 파트너 유치 위한 마켓플레이스 전략 추진 중이다. 리키 CBO는 현재 공개 내용이 초기 기능 수준이라고 밝혔으며, 실무 사용자·개발자 커뮤니티 활용 확대 시 피드백이 향후 로드맵 방향 결정에 중요 역할 전망이라고 설명했다.

리키 CBO는 기업 AI의 실제 운영 단계 안착에는 시간이 소요될 것으로 내다봤다. 다만 운영 전환을 넘은 기업의 성과 규모는 크다고 설명했다.

리키 CBO는 일부 사용 사례에서는 생산성의 점진적 향상을 넘어 기하급수적 개선이 가능하다고 밝혔다. 또 특정 산업에서는 AI로 승자독식형 시장이 형성될 가능성이 있다고 덧붙였다.

이어 샌즈버리 CEO는 한국 포함 아시아태평양 지역을 투자 확대 지역으로 제시했다. 그는 호주·싱가포르에서 비교적 탄탄한 시장 커버리지를 보유하고 있으며, 한국·태국·말레이시아에서 추가 기회를 확인했다고 설명했다. 또 필요에 따라 한국·태국·말레이시아를 대상으로 선택적 투자를 확대하고 있다고 밝혔다.

샌즈버리 CEO는 해당 시장들에 대형 은행·보험사·통신사가 다수 존재한다고 말했다. 이어 해당 기업들은 플랫폼이 해결하려는 데이터 거버넌스·AI 관련 과제를 보유하고 있다고 설명했다. 그는 아시아태평양이 여전히 중요한 성장 지역이라고 밝혔다.

사진은 아바스 리키 클라우데라 CBO 겸 응용 AI 부문 총괄의 모습으로, 양승갑 기자가 촬영했다.

클라우데라 찰스 샌즈버리 CEO·아바스 리키 CBO 대상 일문일답에서 하이브리드·프라이빗 AI 전환의 비용 문제 여부에 대한 질문이 나왔다.

이에 대해 찰스 샌즈버리 CEO는 데이터 보안 중요성이 커지고 있고 데이터 주권 중요성도 증대하고 있다고 설명했다. 또 북미의 프라이빗 AI와 다른 지역의 소버린 AI는 핵심 개념이 유사하다고 밝혔다.

찰스 샌즈버리 CEO는 기업들이 자사 데이터 통제권을 유지하려는 의지가 크며, AI 모델 학습·추론을 위해 모든 데이터를 퍼블릭 클라우드로 이전하는 방식은 선호하지 않는다고 말했다.

이어 워크로드의 클라우드·온프레미스 분산 기준에 대한 질문에는 워크로드별로 경제성과 운영 특성이 다르다고 설명했다. 그는 은행의 사기 탐지·방지처럼 수요가 일정하고 예측 가능한 워크로드는 자체 인프라 운영이 더 경제적일 수 있다고 했다.

또 단기 운영 워크로드와 실험적 프로젝트, 수요 변동성이 큰 경우에는 퍼블릭 클라우드가 적합할 수 있고, 지연 민감 워크로드는 엣지 운영이 더 적절하다고 설명했다. 목표는 고객의 워크로드별 최적 컴퓨팅 환경 배치를 위한 유연성을 제공하는 데 있다고 밝혔다.

엔터프라이즈 AI 확산에 따른 온프레미스 인프라 내 최고속 성장 영역에 대한 질문에 대해 리키 CBO는 추론이 최고속 성장 영역 중 하나가 될 가능성이 있다고 밝혔다. 그는 소버린 AI와 프라이빗 엔터프라이즈 AI를 추론 성장의 동인과 중요 요인으로 꼽았다.

리키 CBO는 향후 몇 달 내 해당 요구를 겨냥한 완성도 높은 종단간 솔루션들이 시장에 등장할 것으로 예상했다. 그는 핵심 원칙으로 선택권을 제시하면서 고객이 단일 인프라 모델에 종속되지 않아야 하며, 워크로드별로 실행 위치를 자율적으로 결정할 필요가 있다고 설명했다.

애니웨어 클라우드의 데이터브릭스·스노우플레이크·하이퍼스케일러 등과의 경쟁 구도 변화 여부에 대한 질문에 샌즈버리 CEO는 경쟁사 자체에는 큰 변화가 없다고 말했다. 그는 여러 기업이 여전히 엔터프라이즈 데이터 관리 문제 해결을 시도하고 있다고 덧붙였다.

샌즈버리 CEO는 다만 시장 환경은 변화하고 있다고 설명했다. 그는 AI의 성장 기반은 클라우드이지만, 그렇다고 모든 AI 워크로드의 최종 잔존 위치가 클라우드라는 뜻은 아니라고 밝혔다. 이어 고객은 데이터 통제권과 클라우드 수준 사용자 경험 사이에서 양자택일할 필요가 없으며, 데이터가 있는 곳에서의 관리를 유지하면서도 클라우드 플랫폼 수준의 기능과 경험을 제공할 필요가 있다고 강조했다.

질문 주제는 기업들의 AI 가능성 과대평가 여부와 운영 전환 난도 과소평가 여부다. 샌즈버리 CEO는 기업들이 AI 자체의 매력보다 AI를 프로덕션으로 전환하는 복잡성을 과소평가하고 있다고 설명했다. 그는 AI에 대한 기대와 관심 수준이 기존 어떤 기술보다 높지만, 핵심 문제는 관심 부족이 아니라 구현이라고 말했다.

샌즈버리 CEO는 그 근거로 엔터프라이즈 데이터가 여러 시스템에 분산돼 있고, 그 구조도 복잡하게 얽혀 있다고 짚었다. 이어 모델의 성공적 학습과 실제 AI 애플리케이션 배포 전에 데이터 측면에서 상당한 선행 작업이 필요하다고 밝혔다. 그는 이러한 복잡성에 대한 논의가 부족하다고 말했다.

리키 CBO는 이런 어려움과는 별개로 AI의 잠재적 수익 규모가 매우 클 가능성이 있다고 말했다. 그는 은행·결제 사업자·통신사 일부 기업이 AI를 활용하고 있으며, 일부 기업은 고객 대상 제품·서비스를 근본적으로 바꿀 수 있는 애플리케이션을 개발하고 있다고 덧붙였다.

새로운 플랫폼에 대한 로컬 SI·파트너 반응과 관련해 리키 CBO는 반응이 전반적으로 매우 긍정적이라고 밝혔다. 새 플랫폼은 로컬 SI와 파트너에게 클라우데라 기반 자체 애플리케이션·솔루션 개발이 가능한 사업 기회로 받아들여지고 있다는 설명이다.

리키 CBO는 호주의 한 파트너와 최근 대화한 사례를 언급했다. 이 파트너가 사업하는 환경은 방위산업을 포함해 규제가 매우 엄격하며, 특정 고객 요구로 주요 클라우드 네이티브 데이터 플랫폼·하이퍼스케일러를 사용할 수 없다고 전했다.

이에 따라 해당 파트너는 클라우데라 기술 활용을 넘어 상부 솔루션 개발을 검토하고 있으며, 향후 OEM 협력도 검토하고 있다고 리키 CBO는 설명했다. 그는 데이터 주권·규제 요구가 실제 비즈니스 수요로 연결되고 있다는 점을 요지로 제시했다.

향후 신규 성장 기회와 관련해 샌즈버리 CEO는 클라우데라의 전통적 강점 고객군으로 대형 은행·정부기관·공공부문을 꼽으면서도 AI가 새로운 기회를 창출하고 있다고 밝혔다. 그는 과거 데이터·AI 중심 기업으로 자인하지 않던 산업으로 관심이 확대되고 있다며 천연자원·해운·기타 자산집약적 산업을 예로 들었고, 이들 산업은 막대한 데이터를 생성하는 만큼 데이터를 활용하면 AI로 운영 방식을 크게 개선할 수 있다고 설명했다.

리키 CBO는 기존 고객 내부 성장 기회 상당하다고 밝혔다. 그는 대형 은행 1곳 내 6개 또는 7개의 상이한 구매 결정 조직 존재 가능하다고 했고, 통신사도 복수의 구매 결정 조직 보유하고 있다고 설명했다. 이어 AI로 각 사업부·기능 조직별 신규 사용 사례 창출이 가능해지면서, 기존 고객의 새로운 사업부 진입 기회는 사실상 신규 비즈니스와 유사하다고 말했다.

이 같은 흐름에 맞춰 리키 CBO는 플랫폼 핵심 역량을 계속 강화할 것이라고 밝혔다. 강화 대상은 거버넌스와 통합 데이터 패브릭이며, AI는 주요 투자 분야라고 설명했다. 아울러 검토 역량으로는 프런티어 모델, 에이전틱 AI, 에이전트 관측성을 제시했다.

회사는 인수가 유일한 전략은 아니라고 밝혔다. 그러면서 파운데이션 모델 제공사와의 깊은 기술 통합 확대 방침과 AI 생태계 전반 기업들과의 전략적 파트너십 확대 방침을 함께 설명했다.

샌즈버리 CEO는 향후 12개월 내부 개발 로드맵이 포화 상태라며 회사가 추가적인 대규모 인수에 신중한 태도를 보이고 있다고 밝혔다. 그는 추가 대규모 인수 시 조직 부담 가능성과 집중력 분산 우려가 있다고 설명했다. 이어 특정 역량 공백 보완용 소규모 기회는 지속 검토할 방침이라고 했으며, 자체 개발을 중시하고 파트너십의 중요성도 강조했다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241144

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241144