AI

웨다, RAGOps 기반 ‘벡터그린’으로 생성형 AI 품질관리 강화

테크월드뉴스 ·

RAG 기반 생성형 응답 품질 평가 화면. [사진=웨다]

✦ AI 요약

웨다는 RAGOps 기반 LLM 품질관리 솔루션 '벡터그린(VectorGreen)'을 자체 개발했다고 발표했다.

'벡터그린'은 데이터 수집·검색·답변 생성·품질 평가·이력 추적을 관리하며, 답변 정확성과 최신성, 근거 추적을 지원한다.

웨다는 이 기능을 금융 산업에 우선 적용하고, 이후 제조·공공 등으로 확대할 계획이다.

웨다는 30일 RAGOps 기반 LLM 품질관리 솔루션 '벡터그린(VectorGreen)'을 자체 개발했다고 발표했다. 기업의 생성형 AI 활용이 금융·제조 등 실제 업무 영역으로 확대되면서, 모델 성능 외에도 데이터 최신성·검색 정확도·답변 생성 근거를 동시에 관리하는 체계의 중요성이 커졌다고 봤다.

'벡터그린'은 기업용 생성형 AI의 답변 정확성과 최신성, 근거 추적을 지원한다. 고객 응대·금융 업무 환경에서는 오답이 서비스 품질에 직접 영향을 미치는 만큼 운영 과정 전반에 대한 점검이 필요하다는 판단이 반영됐다.

'벡터그린'은 검색증강생성(RAG) 시스템 운영을 관리하는 RAGOps 구조를 기반으로 설계됐다. 관리 범위는 데이터 수집·검색·답변 생성·품질 평가·이력 추적 전 과정이다.

이 기능은 변경 데이터를 자동으로 수집·반영하도록 지원하고, 데이터 변경 여부를 지속 반영해 생성형 AI의 최신 정보 기반 답변을 지원하는 구성이다. 이를 통해 최신 정보 미반영과 부정확한 검색이 유발하는 오류를 줄이는 데 초점을 맞췄다.

또한 이 기능은 LLM 품질 평가 기능을 통해 답변 생성 여부를 확인하는 방식에서 벗어나 검색 과정과 생성 과정을 동시에 점검한다. 질문에 적합한 데이터가 검색됐는지 평가하고, 검색 정보가 답변 생성에 적절하게 활용됐는지 평가하며, 최종 답변과 참조 데이터의 일치 여부도 평가한다.

이 같은 구성으로 환각(Hallucination), 잘못된 검색 결과, 부정확한 답변을 지속적으로 확인할 수 있다. 아울러 기업 보유 데이터와 검색 시스템, 프롬프트, 답변 결과를 통합 관리하는 것이 특징이다.

웨다가 질의응답 리니지(Query-Answer Lineage) 기능을 제공한다. 이 기능은 사용자 질문부터 검색 데이터, 참조 근거, 최종 답변 생성 과정까지 연결해 확인할 수 있도록 한다. 사용자는 결과만 보는 것이 아니라 어떤 데이터와 근거를 거쳐 답변이 나왔는지 함께 확인할 수 있다.

이 기능은 금융 고객이 특정 상품이나 업무 절차를 질의할 때 최종 답변 외에도 원천 데이터, 검색 결과, 질의, 응답 이력을 추적할 수 있도록 한다. 이를 통해 오류가 발생하면 문제 단계도 확인할 수 있다. 또한 관련 데이터와 답변을 수정하는 데 활용할 수 있다.

웨다는 이 기능을 벡터그린 금융 산업에 우선 적용한다. 이후 제조, 공공 등으로 적용 범위를 확대할 계획이다. 아울러 생성형 AI 데이터 관리, 품질 평가, 운영, 모니터링 기능을 하나의 RAGOps 플랫폼으로 통합하는 방향으로 고도화할 방침이다.

신동민 웨다 기술연구소장은 기업의 생성형 AI 도입 확대에 따라 AI 모델 성능뿐 아니라 기업 보유 데이터의 최신성과 답변 품질을 지속적으로 관리하는 일이 중요하다고 밝혔다. 이어 변경 데이터를 자동 수집하고 RAGOps 기반 LLM 품질 평가와 질의응답 리니지를 통해 기업의 생성형 AI 신뢰 운영을 지원할 방침이라고 설명했다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407511

참고자료

이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.


출처 테크월드뉴스

원문 확인

이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.