지티원, AI 거버넌스 시스템화 강조…“실행 요건 구체화 필요”

지티원은 17일 서울 강남구 도심공항터미널 소노펠리체 컨벤션에서 '2026 지티원 고객의 날 기술 세미나'를 열었다.

이 세미나에서 김찬수 지티원 상무는 '소버린 AI와 AI 거버넌스'를 주제로 발표하고, 소버린 AI 시대 기업의 AI 통제·관리 체계를 소개했다. 아울러 AI 거버넌스 플랫폼의 역할도 설명했다.

김 상무는 발표에서 거버넌스 컨설팅 체계와 시스템은 직접 연결할 수 없다고 밝혔다. 이어 실행 요건을 구체화하는 단계가 필요하다고 설명했다.

김 상무는 실제 구축 현장에서 확인한 과제를 중점적으로 다루면서 AI 거버넌스의 시스템 구현을 위한 준비 사항을 공유했다. 또 통합 AI 거버넌스 플랫폼 'AI 워크벤치(Workbench)'의 적용 방향도 제시했다.

김 상무는 규제 시행·AI 에이전트 확산에 따라 거버넌스 관리 범위가 확대되고 있다고 설명했다. 기존 초점은 모델 성능·위험성 관리였지만, AI 에이전트의 실제 업무 수행과 AI 에이전트의 외부 시스템 기능 호출이 늘어나면서 관리 대상이 실행 과정 전반으로 확대되고 있다고 밝혔다.

김 상무는 소버린 AI에서 모델·인프라 확보만으로는 불충분하다고 밝혔다. 그는 공개된 모델 파일 제공 여부와 별개로 데이터 큐레이션·데이터 정렬 레시피는 비공개라고 설명했다. 이어 완전한 AI 주권 확보 조건으로 생산 주권이 필요하며, 설명 근거·수행 기록·책임 체계 등 통제 조건도 갖춰야 한다고 강조했다.

김 상무는 이런 문제의식에 따라 AI 거버넌스의 실제 운영 체계 구현 과제를 제시했다. 구체적으로 실행 요건 구체화, AI 서비스 관리 단위 확정, 유관 시스템 연계 범위 정의, 지표·데이터 표준 마련 등을 과제로 제시했다.

AI 거버넌스 시스템 구축에서는 먼저 실행 요건을 실제 운영 수준으로 구체화하는 작업이 필요하다. 실행 요건 구체화의 포함 사항으로는 컨설팅 단계 정의 업무의 실제 프로세스 기준 세분화, 수행·검토·승인 단위 반영, 시스템 관리 정보 항목 결정, 담당 주체 결정이 제시됐다. 김 상무는 컨설팅 내용을 시스템으로 이전하려면 실행 규칙과 업무 단위를 실제 작동 가능한 수준까지 구체화할 필요가 있다고 설명했다.

이어 AI 서비스 관리 단위를 어떻게 정하느냐가 위험평가와 지표 관리 범위를 좌우하는 요소로 제시됐다. AI 서비스 관리 단위는 위험평가 기준 설정의 중요 요소이자 지표 관리 기준 설정의 중요 요소다. 에이전트를 하나의 서비스로 볼지 여부에 따라 관리 범위가 변동할 수 있고, 유스케이스 단위 묶음 여부와 업무 영역 단위 묶음 여부에 따라서도 관리 범위가 변동할 수 있다. 김 상무는 AI 서비스 단위의 명확한 정의가 필요하다고 밝혔고, 서비스·에이전트·모델별로 관리 지표를 구분할 수 있다는 취지를 설명했다.

마지막으로 유관 시스템 연계에서는 기존 시스템과 AI 거버넌스 시스템의 상이한 관리 단위를 어떻게 연결할지가 주요 쟁점으로 제시됐다. IT서비스관리(ITSM)는 SR과 프로젝트 코드를 관리 기준으로 삼는 반면, AI 거버넌스의 위험관리 단위는 AI 서비스다. 이에 따라 어떤 ITSM 항목을 어떤 AI 서비스와 연결할지 사전에 결정할 필요가 있으며, 필요한 연계 범위에 대한 조율도 필요하다는 점이 핵심 과제로 제시됐다.

에이전트마다 데이터 형식이 다르면 지표 산출을 위한 연계 개발 부담이 발생할 수 있다. 새 에이전트가 추가될 때마다 지표 산출용 별도 인터페이스를 개발해야 할 가능성도 있다. 이에 따라 개발 초기부터 지표와 데이터 형식을 표준화할 필요가 제기된다.

김 상무는 에이전트·에이전트 플랫폼 개발 시점에 지표 표준을 확정해야 한다고 밝혔다. 또 개발 후 모니터링을 추가하면 데이터 포맷을 재구성해야 하는 상황이 발생할 수 있다고 설명했다.

지티원은 AI 거버넌스 구축 과정에서 확인한 과제를 바탕으로 AI 워크벤치 기능을 고도화했다. AI 워크벤치는 거버넌스 기준 정보와 AI 라이프사이클 관리, 모니터링을 통합 지원하는 AI 거버넌스 플랫폼이다.

김 상무는 이 과정에서 위험평가 기능을 시스템에 내재화했다고 밝혔다. 또 검토·승인 과정에서 이전 단계 수행 내역을 한 화면에서 확인하는 기능을 구현했다고 설명했다. 운영 단계에서는 반복 위험관리 프로세스를 회차별로 관리하는 기능도 추가했다고 밝혔다.

발언자는 모니터링 대상이 기존 모델 관련 수치에만 머물지 않도록 범위를 넓혀 기존 모델 지표 외 에이전트 지표·성과지표까지 모니터링 범위를 확대했다고 설명했다. 이어 시스템에 들어온 정보를 활용해 감독당국 제출용 보고서 작성까지 자동화되도록 해 시스템 입력 정보 기반 감독당국 제출 리포트 자동 생성이 가능하다고 덧붙였다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241726

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241726