[인터뷰] “거버넌스 없이는 AI 에이전트도 없다”

거버넌스 없이는 AI 에이전트도 없다는 문제의식이 부각되고 있다. 기업들이 AI 에이전트의 실제 업무 투입에 나서면서 새로운 과제가 대두됐기 때문이다. 에이전트가 역할을 수행하려면 분산 데이터 접근이 필요하지만, 접근 범위 확대와 통제 난이도 상승이 병행되는 상황에 직면하게 됐다.

클라우데라는 이에 대한 해법으로 데이터 이동 없는 연결 방식을 제시했다. 여러 환경의 분산 데이터를 하나로 연결해 에이전트 활용 가능 데이터 기반을 제공하고, 동시에 전체 데이터 자산 대상 거버넌스의 통합 관리 구조를 구현하겠다는 설명이다.

이 같은 접근의 연장선에서 클라우데라는 최근 신규 플랫폼 '클라우데라 애니웨어 클라우드(Cloudera Anywhere Cloud)'를 공개했다. 아이티데일리는 지난 20일(현지시간) 싱가포르에서 열린 클라우데라 연례 컨퍼런스 '이볼브26(EVOLVE26)' 현장에서 레오 브루닉 최고제품책임자(CPO), 세르지오 가고 최고기술책임자(CTO)와 인터뷰를 진행했으며, 에이전트 시대의 데이터 관리 전략을 들었다.

클라우데라 세르지오 가고 CTO와 레오 브루닉 CPO는 지난 20일(현지시간) 싱가포르에서 열린 '이볼브26' 기자 질의응답에 나섰다.

이 자리에서 가고 CTO는 에이전트 도입 기업의 최우선 검토 사항으로 데이터 위치를 지목하며, 에이전트 도입의 출발점은 기업 데이터가 어디에 흩어져 있는지 확인하는 데 있다고 설명했다. 그는 핵심 질문이 데이터 위치라고 밝혔다.

그는 기업 데이터가 여러 시스템에 분산 저장되는 사례가 있고, 일부 워크로드는 퍼블릭 클라우드에서 운영되는 사례도 있다고 설명했다. 이어 AI의 유용성 조건은 필요한 기업 데이터에 접근하는 데 있으며, 에이전트가 역할을 수행하려면 분산된 데이터 자산 전반에 대해 개별 승인 없이 접근할 수 있어야 한다고 밝혔다.

다만 접근 통제를 어떻게 두느냐에 따라 활용성과 보안이 충돌한다고 짚었다. 필요한 데이터 접근이 제한되면 에이전트 활용도가 저하되고, 반대로 이를 전면 허용하면 보안 위험이 확대된다고 설명했다.

이에 따라 가고 CTO는 에이전트의 접근 가능 범위와 이용자의 열람 가능 범위를 분리해 관리하는 별도 계층이 필요하다고 밝혔다.

가고 CTO는 AI 플랫폼이 성립하려면 해당 계층이 구비돼야 하며, 에이전트에 전체 데이터 자산을 개방할 필요가 있다고 봤다. 동시에 에이전트별·사용자별로 접근 대상을 파악하고 통제할 필요가 있다고 설명했다.

가고 CTO는 급여 시스템 사례를 들어 에이전트 활용 확대와 권한 통제가 함께 설계돼야 한다고 설명했다. IT 부서가 제작한 급여 에이전트는 기능 수행을 위해 시스템 전반에 접근할 필요가 있지만, 이 급여 에이전트를 사용하는 직원의 열람 범위는 본인 급여와 자신이 관리하는 직원 급여로 제한돼야 한다고 봤다. 또 일반 직원이 직접 만든 에이전트는 해당 직원의 권한을 초과할 수 없다고 했다.

이어 가고 CTO는 기업이 내부·외부를 막론하고 통제되지 않거나 침해된 AI 시스템이 존재할 가능성을 전제로 대응해야 한다고 밝혔다. 이를 위해 에이전트의 실제 접근 대상과 실행 내용을 기록하고 확인하는 장치가 필요하며, 감사·로깅·권한 관리가 필요하다고 설명했다. 아울러 에이전트의 접근 대상과 실행 가능 범위에 대한 명확한 통제가 필요하다고 강조했다.

에이전트의 실행 위치를 결정하는 기준은 데이터 성격이다. 민감 정보를 처리하는 에이전트는 기업이 보유한 데이터센터 내부에서 운영할 수 있다. 이 경우 자체 GPU에서 실행되는 모델만 사용하도록 제한하는 것도 가능하다.

반면 공개 정보만 처리하는 에이전트의 경우에는 자사 관련 언론 보도 모니터링 같은 예시가 있다. 이런 경우에는 애저 등 퍼블릭 클라우드 모델을 활용할 수 있다.

가고 CTO는 핵심이 AI에 필요한 데이터 접근을 보장하면서 전 단계에 엔터프라이즈급 거버넌스를 적용하는 데 있다고 설명했다. 데이터의 민감도에 따라 실행 환경과 사용 가능한 모델을 달리하되, 필요한 접근과 통제를 함께 갖춰야 한다는 취지다.

애니웨어 클라우드는 이러한 구상을 제품화한 것이다. 이 제품은 퍼블릭 클라우드·소버린 인프라·프라이빗 데이터센터 전반의 AI·데이터 서비스를 배포 및 관리하는 기능을 갖췄다. 이를 단일 관리 콘솔로 통합하며, 데이터 이동·복제 없이 기존 위치에서 AI 워크로드를 실행할 수 있다. 또한 흩어진 자산에 대한 접근 권한은 통합 거버넌스로 통제한다.

가고 CTO는 데이터·빅데이터·AI 융합 본격화로 기업의 데이터 활용 방식이 근본적으로 바뀌고 있다고 봤다. 그는 AI 시대에 사용하고 싶은 데이터 플랫폼의 모습이 무엇인지 계속 질문해 왔으며, 애니웨어 클라우드는 이런 변화를 고려해 설계한 플랫폼이라고 설명했다.

이 플랫폼은 디자인 파트너 프로그램 방식으로 검증이 진행되고 있다. 현재 참여 기업은 9곳이며, 첫 한 달 동안 참여 의사를 밝힌 고객사는 100곳 이상인 것으로 나타났다.

첫 디자인 파트너는 글로벌 석유·가스 기업인 엑슨모빌이다. 브루닉 CPO에 따르면 엑슨모빌은 공장·정유시설에 설치된 수천 개 엣지 단말의 스트리밍 데이터를 수집하고 있다. 또 엑슨모빌은 향후 중요해질 패턴을 사전에 특정할 수 없다고 판단해 엣지에서 선별하지 않고 가능한 한 많은 데이터를 중앙 데이터 레이크로 보내는 방식으로 처리하고 있다.

누적 데이터 저장 위치는 온프레미스였고, 데이터 관리 체계는 클라우데라 데이터 플랫폼(CDP)이었다. 이 환경에는 거버넌스도 보유하고 있었다.

다만 최신 AI 모델·도구 발전 무대는 대부분 클라우드였다. 이 때문에 데이터 미이동 시 최신 AI 활용이 어려운 상황이었다.

엑슨모빌의 애니웨어 클라우드 도입 배경은 온프레미스 데이터와 클라우드 AI 연결 필요에 있었다. 브루닉 CPO는 기존 CDP 환경 옆에 애니웨어 클라우드를 운영하면 거버넌스 기반 데이터 레이크 전체 이전 없이 최신 AI 모델·AI 도구·파트너 기술 적용이 가능하다는 취지로 설명했다.

이어 가고 CTO는 주권 규정과 관련해 데이터 소재 국가보다 인프라 통제 주체가 핵심이라고 봤다. 그는 AI 모델과 AI 인프라는 국가·기업 모두의 핵심 인프라화가 진행되고 있다고 밝혔다.

또 가고 CTO는 조직이 선도적 AI 역량 접근을 갑자기 상실하면 경쟁력이 크게 저하된다고 강조했다. 이에 따라 필요 시 AI 역량에 계속 접근할 수 있는 구조의 중요성이 부각됐다.

가고 CTO는 퍼블릭 클라우드를 배제하려는 의도는 아니라고 설명했다. 그는 대부분의 기업·정부기관이 퍼블릭 클라우드 이점을 지속 활용하길 희망한다고 밝혔다. 또 평상시 퍼블릭 클라우드 혁신 활용을 전제로 한다고 전했다.

다만 규제 변경 또는 특정 사업자 지속 이용 곤란 시에는 워크로드를 자체 인프라 등 다른 환경으로 이전 가능해야 한다고 가고 CTO는 설명했다. 그는 궁극적 목표로 API 호출 또는 매우 간단한 운영 절차만으로 필요 시 워크로드 이동 가능 체계를 제시했다. 아울러 필요 시 핵심 워크로드 통제권 즉시 회복 가능해야 한다고 밝혔다.

세르지오 가고 클라우데라 CTO와 레오 브루닉 CPO는 지난 20일(현지시간) 싱가포르 '이볼브26'에서 기념 촬영했다. 사진은 양승갑 기자가 촬영했다.

애니웨어 클라우드에 대한 시장 반응을 묻는 질문에 대해 세르지오 가고 CTO는 애니웨어 클라우드 반응이 매우 긍정적이라고 밝혔다. 그는 고객·파트너·애널리스트·언론 등 이해관계자 피드백을 확인하고 있다고 설명했다.

세르지오 가고 CTO는 애니웨어 클라우드가 지금까지 본 제품 중 수용도 최고 수준이라고 말했다. 그는 여러 이해관계자의 반응을 근거로 높은 수용도를 강조했다.

레오 브루닉 CPO는 신제품 소개 때 통상 제기되는 반론은 기능 부족·비용 문제라고 설명했다. 다만 애니웨어 클라우드의 가장 큰 반론은 전면 구현 가능성에 대한 불신이라고 밝혔다.

레오 브루닉 CPO는 이런 흐름이 애널리스트 평가에서도 확인된다고 설명했다. 그는 클라우데라가 데이터 패브릭·데이터 레이크 분야 리더 평가를 받고 있고, 비전·로드맵 측면에서도 높은 평가를 받는다고 밝혔다. 이어 시장의 방향성 공감을 확인했으며, 향후 과제는 실제 실행을 통한 입증이라고 정리했다.

브루닉 CPO는 '실행으로 증명'의 구체적 의미와 관련해 기술의 타당성을 말로 설명하기보다 핵심 기준은 실제 성과라고 밝혔다. 그는 디자인 파트너들의 기술 사용 성공을 언급하며 이를 성과의 출발점으로 제시했다.

브루닉 CPO는 향후 몇 달 동안 다양한 환경의 사례 추가가 필요하다고 설명했다. 성공 사례 제시 대상 환경으로는 구글 클라우드, AWS, 애저, 온프레미스, 에어갭 환경, 혼합 환경을 들었으며, 이를 통해 아키텍처가 작동한다는 확신을 갖고 있다고 밝혔다.

기존 CDP와 애니웨어 클라우드 병행 운영 구조의 의도 여부에 대해서는 브루닉 CPO가 병행 운영 구조를 처음부터 설계했다고 설명했다. 그는 애니웨어 클라우드의 목표가 완전한 차세대 데이터 및 AI 플랫폼인 동시에 고객의 기존 CDP 투자 자산 가치를 증대하는 데 있다고 밝혔다.

브루닉 CPO는 데이터 전체 이전 없이 애니웨어 클라우드를 사용할 수 있고, 환경 재구축 없이 애니웨어 클라우드를 사용할 수 있도록 설계했다고 설명했다. 고객 보유 데이터 위치 예시로는 오브젝트 스토리지와 HDFS를 들었으며, 많은 고객의 데이터 규모가 수백 페타바이트라고 밝혔다. 이어 고객 수요로 기존 투자 유지, 새로운 AI 기술 활용, 클라우드 네이티브 기술 활용을 제시했다.

가고 CTO는 고객 상황을 신규 도입과 기존 대규모 클러스터 보유로 나눠 설명했다. 그는 신규 고객은 애니웨어 클라우드 단독 사용이 가능하다고 밝혔고, 기존 대규모 클러스터 투자 고객은 이동이 어려움 또는 사실상 불가능한 기존 인프라를 유지한 상태에서 신규 기능 활용이 가능하다고 설명했다.

그는 목표가 두 환경의 장점 동시 제공에 있다고 말했다. 이어 AI 기술 스택에서의 클라우데라 위치에 대한 질문에, GPU 보유만으로는 문제 해결이 불가하다고 전제하며 LLM 실행 방식 결정이 필요하다고 설명했다.

또 프롬프트와 기업 데이터 연결 방식 결정 필요, 데이터 저장·조회 방식 결정 필요, 데이터 접근 권한 주체·범위 결정 필요, 거버넌스 적용 방식 결정 필요를 함께 언급했다. 그러면서 클라우데라 역할은 GPU·모델·엔터프라이즈 데이터 관리 통합에 있으며, 전체 시스템의 실제 작동 구현을 맡는 위치라고 설명했다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241145

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241145