SAS “韓기업 AI ‘신뢰 격차’, 1년 만에 대폭↓…지난해 28.9점→올해 1.5점

SAS는 IDC 리서치 인사이트를 토대로 '데이터 및 AI 영향력 보고서: 새로운 신뢰의 경제학'을 발표하고, 한국 기업의 AI 신뢰와 실제 관리 역량 간 격차가 1년 사이 크게 줄었다고 밝혔다. 한국 기업의 AI 신뢰 격차는 지난해 28.9점에서 올해 1.5점으로 낮아졌다.

이번 보고서는 전세계 28개국 2699명 비즈니스 및 IT 의사결정권자를 대상으로 기업 AI 활용 현황과 신뢰 구축 수준을 심층 분석한 결과를 담았다. 조사 중점 분야는 은행·보험·생명과학·공공 부문이었다.

보고서에 따르면 Trustworthy AI 체계를 구축한 기업은 미구축 기업 대비 목표 투자 대비 성과(ROI) 달성 가능성이 15배 높았다. 또 거버넌스·데이터 품질·감사 가능성이 우수한 상위 기업군은 AI 도입으로 2배 이상 ROI를 거두는 것으로 나타났다.

글로벌 조사 결과, 체계적 데이터 인프라를 보유한 기업과 의사결정 과정을 설명 가능한 AI 모델을 활용한 기업, 전반적 거버넌스 체계를 우선한 기업의 재무적·운영적 가치 창출 수준이 더 높은 것으로 나타났다.

이와 관련해 SAS는 AI 성숙도가 높은 선도 기업 사례를 보면 신뢰 구축이 리스크 완화 전략에 그치지 않는다고 설명했다.

SAS는 신뢰 구축이 AI의 효과적 확장과 지속 가능한 비즈니스 성과 실현의 핵심 동력이라고 설명했다.

한국의 AI 신뢰 격차는 지난해 28.9점에서 올해 1.5점으로 줄었다. 한국의 AI 신뢰 격차 감소폭은 27.4점이다. 신뢰 격차는 기업의 AI 체감 신뢰와 실제 AI 시스템의 안전한 작동 수준인 실제 관리 역량 간 차이를 뜻한다.

한국에서는 지난 1년간 AI 체감 신뢰가 73.9점에서 58.6점으로 하락했고, 실제 관리 체계는 45점에서 57.1점으로 발전했다. 이에 따라 한국의 AI 과도한 기대는 약화했고, 체감 신뢰와 실제 관리 역량 두 지표는 거의 일치 상태를 보였다.

SAS는 격차 축소의 주된 배경으로 한국 기업들의 AI 관리·감독 체계가 신속히 강화된 점을 꼽았다. SAS가 발표한 한국의 '모델 거버넌스 및 감독' 점수는 55.8점이었다. 이는 전년 대비 9.3점 상승한 수치로, 조사 항목 중 최대 개선 폭이었다.

다만 AI 핵심 기반은 여전히 취약한 것으로 나타났다. '설명 가능성 및 공정성'은 54.6점으로 1년 전 대비 소폭 상승하는 데 그쳤다. '데이터 품질 및 거버넌스'도 53.9점으로 1년 전 대비 소폭 상승했다. '책임 있는 AI 정책'은 59.5점이었고, 점수 변동은 없었다.

한국 기업들은 모델 거버넌스·감사 체계를 강화했지만, 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 한국 기업의 비중은 1.9%에 그쳤다.

이런 흐름 속에서 데이터 및 AI 영향력 보고서는 한국 기업의 향후 최우선 과제로 '데이터 품질'과 '설명 가능성'을 제시했다.

보고서는 한국 기업의 '에이전틱 AI' 도입 비율이 42.6%라고 밝혔다. '에이전틱 AI'는 스스로 판단·행동하는 AI를 뜻하며, 이에 따라 AI의 자율적 업무 처리 비중도 증가하고 있다고 설명했다. 보고서는 에이전틱 AI 확산으로 자율적 의사결정이 늘수록 AI가 결정 이유를 설명하지 못하는 경우와 AI가 잘못된 데이터를 학습하는 경우 심각한 비즈니스 리스크를 초래할 수 있다고 짚었다. 또 실제로 사용자가 AI의 추천을 무시하거나 직접 수정하는 최대 이유는 AI가 판단 근거를 설명하지 못하기 때문이라고 밝혔다.

이어 보고서는 AI에 대한 기대 수준과 실제 관리 역량을 일치시킬 필요가 있다고 설명했다. 아울러 안정적 데이터·관리 체계를 구축할 필요가 있다고 밝혔다. 보고서는 이 같은 요소들이 단순한 리스크 예방 차원을 넘어 기업의 실질적 사업 성과와 직결된다고 설명했다.

글로벌 조사에서는 최적화된 데이터 인프라를 보유한 기업이 높은 ROI를 달성할 확률이 4배인 것으로 나타났다. 또 최적화된 데이터 인프라를 보유한 기업은 데이터 품질·설명 가능성 통제를 의무화할 가능성이 6배로 조사됐다.

전대일 IDC AI 리서치 수석 연구원은 AI의 자율적 판단·행동 확대에 따라 사람들이 완전히 이해하지 못하는 시스템의 신뢰·사용 문제가 새로운 과제로 떠오르고 있다고 봤다. 그는 AI의 성공적 확장을 위한 필수 조건으로 강력한 관리·감독, 설명 가능성, 책임성, 탄탄한 데이터 기반 확보를 제시했다.

이중혁 SAS코리아 대표이사는 한국 기업들의 AI 신뢰 격차가 1년 사이 급격한 축소를 보였다고 밝혔다. 그는 이러한 신뢰 격차 축소의 의미를 거버넌스 구축·현실적 리스크 인식의 빠른 진전이라는 긍정적 신호로 평가하면서, 한국의 AI 확장을 실질적 비즈니스 성과로 연결하기 위한 과제로 거버넌스 구축과 병행한 AI 판단 근거 설명, 정확성·재현성을 갖춘 데이터 기반 완성을 꼽았다.

출처: 테크월드뉴스 · 이광재 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407554

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407554