AI

이스트소프트, JDC ‘사내 생성형 AI 언어모델 구축 사업’ 수주

테크월드뉴스 ·

제주국제자유도시개발센터 전경. [사진=JDC]

✦ AI 요약

이스트소프트는 JDC의 사내 생성형 AI 언어모델 구축 사업을 수주했다.

이번 사업은 JDC 내부 서버에 보안·개인정보 관련 규정을 준수하는 생성형 AI 환경을 구축하는 것이다.

이스트소프트는 외부망 분리 기관 내부 서버에 sLLM과 AI 에이전트를 구축하고, 업무지원 플랫폼과 업무 영역별 특화 챗봇을 제공할 계획이다.

이스트소프트는 21일 JDC의 사내 생성형 AI 언어모델 구축 사업을 수주했다고 발표했다. JDC는 제주국제자유도시개발센터다. 이번 사업의 핵심은 JDC 내부 서버 내 생성형 AI 환경을 구축하는 데 있다.

이번 수주는 JDC가 기관 보유 업무 자료를 외부 인터넷 기반 서비스에 노출하지 않고 활용하려는 목적과 연결된다. 구축 대상은 보안·개인정보 관련 규정을 준수하는 AI 플랫폼이며, 사업 기간은 계약일로부터 6개월이다. 이를 통해 내부 데이터의 업무 활용을 지원하는 것이 목표다.

이에 따라 이스트소프트는 외부망 분리 기관 내부 서버에 소형언어모델(sLLM)을 구축하고, AI 에이전트를 결합한 업무지원 플랫폼을 제공할 계획이다. 이 플랫폼은 기관 내 여러 시스템·문서에 분산된 업무 지식을 연결해 임직원의 필요 정보 신속 탐색을 지원하고, 임직원의 업무 판단 활용도 지원한다.

JDC는 개발사업·면세사업·예산·안전관리·계약·인사 등 주요 업무를 대상으로 업무 영역별 특화 챗봇을 구축한다. 이 챗봇은 질의 유형에 따라 서로 다른 규모의 언어모델을 적용하는 방식으로 구성되며, 일상적 질의응답용으로는 30B급 이상의 언어모델을, 복잡한 장문 추론용으로는 120B급 이상의 언어모델을 적용할 계획이다.

답변의 품질과 최신성을 위해서는 문서 검색에 검색증강생성(RAG) 기술을 활용한다. 기관 내 문서 약 3.8TB를 임베딩하고, 전사콘텐츠관리시스템(ECM) 등 기존 시스템과 외부 데이터를 연계해 근거와 최신 정보를 함께 제공하는 구조로 답변을 제공한다.

JDC는 단순 질의응답을 넘어 실제 업무 수행형 AI 에이전트 환경도 마련한다. 이를 위해 API 호출 기반 실행형 에이전트를 적용하고, 여러 에이전트가 협업하는 업무 흐름을 설계·실행할 수 있는 에이전트 빌더를 제공하며, 향후 AI 적용 범위 자체를 확대할 수 있도록 지원한다.

운영 단계에서는 폐쇄망 환경 맞춤 보안·모니터링 체계를 구축하고 LLM옵스(LLMOps)를 구축한다. 이스트소프트는 공공기관 업무 특성을 고려한 시스템 구성을 계획하고 있다. 시스템은 답변의 근거 문서를 함께 제시하는 방향으로 구성되며, 실제 업무 처리로 연계가 가능하도록 마련된다.

이번 사업에는 이스트소프트 에이전틱 AI 서비스 '앨런(Alan)'에 축적된 기술이 적용되며, AI 오케스트레이션 역량도 투입된다. 이스트소프트는 최근 농업과 국방 분야에 이를 적용해 왔다. 이번 JDC 사업은 sLLM·AI 에이전트 적용 범위를 공공 부문으로 확대하는 의미를 갖는다.

정상원 이스트소프트 대표는 이번 사업이 보안이 중요한 공공기관에서도 생성형 AI의 내부 업무 활용 환경을 구축하는 사업이라고 밝혔다. 그는 '앨런'을 통해 축적한 에이전틱 AI 역량을 기반으로 JDC의 업무 혁신을 지원하겠다는 입장을 내놨다. 아울러 공공 AI 사업 확대를 추진하겠다고 밝혔다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408535

참고자료

이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.


출처 테크월드뉴스

원문 확인

이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.