이스트소프트, JDC 사내 생성형 AI 구축…sLLM·AI 에이전트 활용

이스트소프트가 외부망과 분리된 내부 환경에서 생성형 AI를 활용할 수 있는 공공기관용 AI 플랫폼 구축에 착수했다.

이스트소프트는 21일 JDC가 발주한 'JDC 사내 생성형 AI 언어모델(sLLM) 구축 사업'을 수주했다고 발표했다. 이번 사업은 JDC 내부 서버에 구축되며, 사업 기간은 계약일로부터 6개월이다.

이번 사업의 핵심은 외부와 분리된 내부 환경에서 안전한 데이터 활용이 가능한 AI 플랫폼을 마련하는 데 있다. 이스트소프트는 외부망과 분리된 기관 내부 서버에 sLLM을 직접 구축하고, 그 상단에 AI 에이전트를 결합한 업무지원 플랫폼을 제공할 계획이다.

이스트소프트는 이를 통해 기관 내 분산 업무 지식을 연결하고, 임직원이 필요한 정보를 신속·정확하게 탐색할 수 있도록 지원할 방침이다. 아울러 근거 기반 판단을 지원해 임직원의 업무 정확도 향상과 업무 처리 속도 향상을 추진한다.

JDC는 주요 업무 영역별 특화 업무지원 챗봇 구축을 추진하며, 업무 분야별로 나뉜 챗봇에 서로 다른 규모의 언어모델을 적용해 업무 유형에 맞는 응답 체계를 갖추려 한다. 대상 업무 영역은 개발사업, 면세사업, 예산, 안전관리, 계약, 인사 등이다. 일상 질의응답용으로는 30B급 이상의 언어모델을 적용하고, 복잡한 장문 추론용으로는 120B급 이상의 언어모델을 적용해 업무 성격별 최적 응답 품질을 구현할 계획이다.

JDC는 기관 내 문서 약 3.8TB를 임베딩하고, RAG 기반 AI 문서검색 서비스를 제공한다. 또한 전사콘텐츠관리시스템(ECM) 등 기존 시스템과 연동하고 외부 데이터도 연동해 검색과 답변의 최신성을 유지할 방침이다.

JDC는 단순 질의응답을 넘어 실제 업무 실행형 AI 에이전트 환경도 마련한다. 이를 위해 API 호출 기반 실행형 에이전트를 구축하고, 여러 에이전트의 협업 업무 흐름을 직접 설계·실행할 수 있는 에이전트 빌더를 제공한다. 이를 통해 향후 JDC의 AI 활용 범위 자체 확장 기반도 조성한다.

이번 사업에는 폐쇄망 환경 맞춤 보안·모니터링 체계 구축과 LLMOps 구축이 포함되며, 이를 통해 안정적·지속 가능한 운영 체계를 확보한다.

정상원 이스트소프트 대표는 이번 사업이 보안 중시 공공기관의 생성형 AI 안전·실질 활용 사례가 될 것이라고 밝혔으며, 앨런 기반 에이전틱 AI 역량으로 JDC 업무 혁신을 지원하고 공공 AI 시장 입지를 빠른 확대를 추진하겠다고 밝혔다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=242343

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=242343