[인터뷰] “정확도만 높여선 부족”…티냅스가 금융 AI를 검증하는 법

AI 성능이 빠르게 향상하는 것과 별개로, 기업이 실제 업무에 AI를 투입할 때는 위임할 수 있는 범위를 정하는 문제가 중요하다는 지적이 나왔다. 금융 AI 검증 방식을 주제로 한 아이티데일리 인터뷰에서 강민승 티냅스 대표는 지난 26일 서울 강남구 한 공유오피스에서 만나 AI의 지능 고도화는 지속되고 있지만 기업이 AI에 맡길 수 있는 업무 범위는 여전히 제한적이라고 설명했다. 이어 AI 자동화 범위와 사람 이관 지점의 경계를 설정할 필요가 있다고 밝혔다.

특히 금융 분야는 작은 오류도 업무 결과에 치명적 영향을 미칠 수 있어, AI 판단 활용 범위의 기준을 정하는 일이 중요하다고 강 대표는 강조했다. 이는 AI 성능의 향상 자체와 실제 업무 위임 가능 범위가 같은 문제가 아니라는 점을 보여주는 대목이다.

티냅스는 지난해 설립된 AI 신뢰성 인프라 스타트업이다. 이 회사는 기업용 AI의 답변·판단을 검증하고, 문제가 있는 AI 결과가 실제 업무에 반영되는 것을 차단·통제하는 기술을 개발하고 있다. 주력 분야는 금융권으로, 규제와 업무 기준의 복잡성을 고려해 금융권을 선택했다.

사진은 강민승 티냅스 대표가 지난 26일 서울 강남구 공유오피스에서 인터뷰하는 모습이다. 사진 출처는 스노우플레이크다.

AI 고도화 방향은 챗봇에서 에이전트로 전환되고 있다. 에이전트 기능 확대에 따라 AI는 답변 생성을 넘어 판단·실행 수행까지 맡게 됐고, 이에 따라 기업의 신뢰성 확보 범위도 확대되고 있다.

강민승 대표는 과거 AI 챗봇이 단순 답변 제시 형태였다면, 에이전트 시대에는 의사결정 범위가 확대된다고 설명했다. 그는 사고 발생 시 파장도 확대된다고 봤다.

강 대표는 에이전트의 다양한 툴 호출이 이뤄진다고 설명했다. 또 실행·의사결정 과정의 다중 툴 호출로 신뢰성 저하 가능성이 있다고 말했다.

이 때문에 에이전트 신뢰성 제고 수단으로는 답변 근거 첨부만으로는 불충분하다는 지적이 나온다. 질문과 맞지 않는 자료, 비슷하지만 다른 상품, 오래된 자료처럼 부적절한 검색 사례가 있을 수 있기 때문이다. 검색 자료가 사실이어도 질문 적합성 부족 시 적절한 답변으로 보기 어렵다.

강 대표는 금융에서는 근거 있는 답변 여부와 고객 제공 가능 여부는 별개라며, 금융 분야의 답변 검증 요소로 팩트체크와 내부 정책 부합 여부, 업무 기준 부합 여부를 함께 봐야 한다고 말했다.

또 기업의 에이전트 업무 수행 절차는 사전 설정할 수 있지만, 절차 사전 설정만으로는 결과를 통제할 수 없다고 설명했다. 그는 통제 과정에서도 AI의 의사결정은 불가피하며, 그 의사결정에 오류가 생기면 경로를 통제해도 올바른 답변을 보장할 수 없다고 말했다.

강 대표는 이런 점 때문에 정확도 수치만으로 AI 사용 여부를 결정하기는 곤란하다는 견해를 밝혔다. AI 정확도 95%의 사용 가능 여부 판단도 애매하고, AI 정확도 99%의 사용 가능 여부 판단도 애매하다고 했으며, 1~5% 오답 혼입만으로도 기업 업무 결과가 왜곡될 수 있다고 말했다.

결국 정확도만으로는 부족하며, 오답이 업무에 미치는 영향을 함께 봐야 한다는 취지다. 아울러 AI와 사람 사이 업무 경계 설정이 필요하다는 점도 함께 제시했다.

티냅스는 AI 위임 범위 설정에 룰·도메인 특화 AI·사람 검토를 단계적으로 적용하는 방식으로 문제를 해결한다. 명확한 기준으로 처리 가능한 영역에는 사전 정의 룰을 적용하고, 룰만으로 판단 어려운 영역은 도메인 특화 AI가 검토한다. AI도 판단 어려운 사안은 현업 담당자에게 이관한다.

이 과정에는 티냅스가 자체 개발한 '도메인 저지' 기술이 활용된다. '도메인 저지'는 금융 용어·업무별 판단 기준을 학습하고, AI 답변의 해당 업무 적절성을 검증하는 기능을 맡는다. 이 흐름에서 '도메인 저지'는 금융 맥락의 기준을 학습해 AI 판단의 업무 적합성을 가려내는 역할을 한다.

강 대표는 '도메인 저지'를 'AI의 준법감시인'에 비유했다. 그는 준법감시인은 모든 업무 전문가는 아니어도 옳고 그름을 가릴 도메인 지식을 보유하고 있다고 설명했다. 또 금융 분야 AI 오답 사례를 수집하고, 오답 원인을 유형별로 분석해 반복적으로 틀리는 부분을 교정하고 있다고 밝혔다.

현업에서 AI를 실사용하려면 검증이 필요하다. AI 결과 후 담당자 전면 재확인 필요 시 자동화 효과가 제한되기 때문이다. 강 대표는 현업 재확인 전제이면 AI 사용 필요성에 의문이 발생하고, 1~2% 불확실성 잔존 시 사용 확대의 병목이 된다고 밝혔다.

이런 이유로 티냅스는 금융권 기술 적용 논의를 진행하고 있으며, 적용 논의 중심 분야는 기업여신이다. 기업여신은 개인 가계대출 대비 검토 문서가 다수이고 판단 요소도 다수이며, 기업 분석과 보고서 작성이 수반되는 복잡한 업무 특성을 지닌다. 이 때문에 기업여신 분야의 자동화 수요가 큰 것으로 제시됐다.

티냅스는 적용 논의를 퇴직연금, 외환, 수신 분야로도 확대하고 있다. 아울러 티냅스는 KB국민은행과 AI 신뢰성 기술 적용 협력을 논의하고 있다.

티냅스가 스노우플레이크 기반 AI 신뢰성 검증 체계를 설계했다. 사진 출처는 스노우플레이크이며, 강민승은 티냅스 대표다.

AI 운영에서는 AI 위임 범위 설정 이후에도 모델 변경 때마다 판단 기준이 변동하면 안정적 운영이 어렵다는 문제가 제기된다. 강민승은 모델의 지속적 변경이 불가피하다고 밝혔다.

강민승은 기업의 답변·기준은 모델이 바뀌어도 매번 달라지면 안 된다고 설명했다. 이어 모델 변경을 전제하에 기업 자산의 영구적 축적이 필요하다고 밝혔다.

이 같은 맥락에서 데이터 체계적 관리 기반의 중요성이 부각된다. 강민승은 AI 경계 설정과 답변의 기준 부합 여부 판단에 데이터가 필요하다고 밝혔고, 해당 데이터의 거버넌스 체계 내 관리 수준이 중요하다고 설명했다.

티냅스·스노우플레이크 협업은 같은 문제의식 기반에서 이뤄졌다. 티냅스는 스노우플레이크의 데이터·AI 환경에 자사 검증 기술을 결합했다.

이 구조는 AI의 답변·판단을 검증하도록 설계됐다. 또 문제가 있다고 판단한 결과는 차단하거나 재작성하는 구조다.

검증 과정에서 축적된 감사 로그와 현업 피드백은 다시 데이터에 재반영되는 구조다. 강 대표는 데이터 변경·재학습 필요 발생 시 감사 로그의 스노우플레이크 데이터 재투입이 이뤄진다고 설명했다.

강 대표는 해당 순환 구조가 작동하면서 데이터의 지속적 기업 자산 축적이 가능하다고 밝혔다. 검증 단계에서 나온 기록과 현업 의견이 다시 데이터로 들어가면서 같은 체계 안에서 순환이 이어지는 구조라는 설명이다.

강 대표는 스노우플레이크의 장점으로 구축·연동 용이성을 제시했다. 그는 금융사별 상이한 시스템 환경 이해·맞춤에 많은 시간이 소요되지만, 스노우플레이크는 AI 레이어·데이터 레이어 구조가 일정해 일정한 구조로 기술 플러그인이 용이하다고 설명했다.

티냅스는 국내 금융권에서 기술·레퍼런스를 축적한 뒤 해외 시장으로 사업 확대를 계획하고 있다. 해외 최대 시장 판단 대상은 미국이며, 티냅스는 일본·싱가포르 사업 기회를 모색하고 최근 중동 지역 진출도 논의 중이다.

티냅스는 글로벌 확장 과정에서 스노우플레이크 협업을 활용하고 있으며, 스노우플레이크 협업은 해외 고객 접점 확대 통로 역할을 하고 있다. 티냅스는 '2026 스노우플레이크 스타트업 챌린지' 글로벌 톱10에 선정됐고, 아시아 기업 가운데서는 유일하게 글로벌 톱10에 진입했다.

강 대표는 선정 이후 글로벌 벤처캐피털(VC) 문의와 고객사 문의가 증가했고, 그 수준도 체감 가능한 정도라고 밝혔다. 다만 추가 성과 입증이 필요하고 레퍼런스 축적도 필요하다며, 이미 스노우플레이크를 사용하는 고객과 연결될 경우 확장 가속이 가능할 것으로 봤다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241278

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241278