데이터 소비자, 인간서 AI 에이전트로 전환…지티원, ‘능동적 가드레일’ 강조
아이티데일리 (IT DAILY) ·
✦ AI 요약
장희철 지티원 상무는 17일 '2026 지티원 고객의 날 기술 세미나'에서 'AI와 데이터 거버넌스 전략'을 주제로 발표했다.
그는 AI 시대에 데이터 소비 주체가 인간에서 AI 에이전트로 바뀌고 있다고 설명했다.
이에 따라 기존 통제·규제 중심 거버넌스에서 품질·맥락·식별·추적의 능동적 가드레일 중심 전환이 필요하다고 말했다.
장희철 지티원 상무가 17일 서울 강남구 도심공항터미널 소노펠리체 컨벤션에서 열린 '2026 지티원 고객의 날 기술 세미나'에서 'AI와 데이터 거버넌스 전략'을 주제로 발표했다. 사진은 장희철 상무의 발표 모습이며, 사진은 양승갑 기자가 제공했다.
장희철 상무는 이날 기술 세미나에서 AI 시대에 데이터 소비 주체가 바뀌고 있다고 설명했다. 그는 과거에는 데이터 소비자가 인간이었다면 최근에는 데이터 소비자가 AI 에이전트로 전환되고 있다고 밝혔다.
장희철 상무는 이를 출발점으로 AI 시대의 데이터 거버넌스 발전 방향을 설명했다. 데이터 소비 주체의 인간→AI 에이전트 전환에 맞춰 지티원이 '능동적 가드레일'을 강조한다는 점이 이날 발표의 요지였다.
그는 AI 성능의 빠른 향상에도 기업의 실제 업무 적용 과정에는 여러 어려움이 지속된다고 진단했다. 이에 대한 방안으로 정형 데이터와 비정형 데이터의 관리를 제시했으며, AI가 검색·추론 등에 활용할 수 있는 데이터 환경 구축이 필요하다고 밝혔다.
장 상무는 AI 확산에 따라 데이터 활용 주체가 사람에서 AI 에이전트로 바뀌고 있다고 설명했다. 기존에는 사람이 정형 데이터를 직접 조회·분석하는 방식이었다면, 현재는 AI 에이전트가 정형·비정형 데이터를 활용하는 방식으로 전환되고 있다고 밝혔다. 또한 현재 방식에서는 자연어 질의와 맥락 연결 기반 추론·실행이 이뤄지고 있다고 말했다.
장 상무는 이 같은 변화로 AI의 판단과 실행이 실제 업무에 직접 연결되면서 AI 오판·오실행의 실제 업무 영향이 확대되고 있다고 짚었다. 그는 과거 AI 문제 수준이 단순 오답에 머물렀다면, 현재 AI 문제 수준은 비즈니스 장애로 발전하고 있다고 설명했다. 그 사례로 결제 오처리와 발주 오처리를 제시했다.
이런 배경에서 기업의 AI 에이전트 도입 주요 문제로는 데이터 품질, 기업 고유 업무 맥락 미이해에 따른 시맨틱 갭, 과도한 데이터 접근 권한, 의사결정 경로 불확실성이 꼽혔다. 장 상무는 원천 데이터가 오염될 경우 에이전트의 자율 실행이 비즈니스에 잘못된 결과를 초래할 가능성이 있다고 밝혔다.
장 상무는 데이터 품질의 역할이 에이전틱 AI 행동의 정당성을 부여하는 기준이라고 강조했다. 그러면서 데이터 품질 향상 노력이 필요하다고 말했다.
기존의 통제·규제 중심 데이터 거버넌스로는 AI의 데이터 활용·업무 수행 과정에서 발생하는 문제를 충분히 다루기 어렵다는 점에서, 문제 대응 방안으로 기존 데이터 거버넌스의 '능동적 가드레일' 중심 전환이 강조됐다. 기존 관리 방식은 통제·규제 중심이었으며, 전환이 필요한 이유는 AI의 데이터 활용·업무 수행 과정의 문제를 사전에 관리하기 위해서라고 설명됐다.
장 상무는 기존 데이터 거버넌스의 성격이 통제 기반·수동적·규제 중심이라고 밝혔다. 이어 안전한 주행 보장용 능동적 가드레일 기반 데이터 거버넌스로의 전환이 필요하다고 말했다.
제시된 가드레일은 품질·맥락·식별·추적이다. 품질 가드레일은 환각 최소화 기능을 맡고, 맥락 가드레일은 AI의 기업 고유 용어 자의적 해석 방지를 지원한다. 식별 가드레일은 업무 맥락에 맞는 테이블·컬럼 등 실제 데이터 위치를 탐색·연결하고 민감정보 노출을 통제하는 기능을 한다. 추적 가드레일은 AI 결과의 원천 데이터를 확인할 수 있게 한다.
장 상무는 네 가지 가드레일의 단독 적용을 지양하고 유기적 연동 지원이 필요하다고 밝혔다. 장 상무는 가드레일을 개별 장치가 아니라 함께 작동하는 체계로 봤다.
이 관점에서 데이터 관리 범위의 확대 필요성을 제시하며 비정형 데이터를 포함해야 한다고 밝혔다. 대상 예시로는 PDF·워드·한글 등 기업 내부 문서를 들었고, 이들 기업 내부 문서를 LLM과 연동하는 활용 방안을 제시했다. 이어 내부 문서에서 용어·분류·요약·목차를 추출하고, 이 추출 정보의 메타데이터화가 필요하다고 설명했다. 장 상무는 비정형 데이터의 메타화 필요를 언급하며, 목표로 비정형 데이터와 정형 데이터의 통합 관리를 제시했다.
장 상무는 'AI 레디 데이터'의 중요성을 강조하고, AI 레디 데이터의 필수 조건은 가드레일 적용이라고 밝혔다. 이런 체계를 전제로 현업 지원 방향으로는 셀프서비스 기반의 자유로운 데이터 생성 지원을, IT 지원 방향으로는 데이터 활용을 통한 시스템 지능화 지원을 제시했다.
출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241731
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 아이티데일리 (IT DAILY)
원문 확인이 기사는 아이티데일리 (IT DAILY) 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.