아이티센그룹, AI 보안 솔루션 ‘에이전트고 가드’ 출시

아이티센그룹은 1일 AI 가드레일 통합 보안 솔루션 '에이전트고 가드(AgentGo Guard)' 출시를 발표했다. 출시 목적은 기업·공공기관의 생성형 AI·AI 에이전트 환경 보호다.

아이티센그룹은 생성형 AI와 AI 에이전트 활용 확산에 따라 기업과 공공기관이 겪을 수 있는 보안 위협에 대응하는 제품으로 '에이전트고 가드'를 내놨다. '에이전트고 가드'는 엔터프라이즈용 플랫폼으로, 프롬프트 인젝션·민감정보 유출·탈옥 등 생성형 AI 사용 과정의 보안 위협을 탐지·차단한다.

이 솔루션은 독립형 플랫폼으로 개발됐으며 API 방식으로 연동된다. 연동 대상은 사내 애플리케이션·검색증강생성(RAG)·AI 에이전트 워크플로이며, 기업 기존 구축 AI 환경에 별도 적용 가능하다.

아이티센그룹은 지난 1월 계열사 아이티센클로잇을 통해 멀티 AI 에이전트 관리 플랫폼 '에이전트고 2026(AgentGo 2026)'를 선보인 바 있다. '에이전트고 가드'는 '에이전트고 2026(AgentGo 2026)' 연동을 지원하며, 타사 AI 에이전트 플랫폼 연동도 지원한다.

보안 위협 판별은 단일 필터가 아니라 여러 단계의 방어 절차를 거쳐 이뤄진다. 보안 위협 탐지 구조는 금칙어·정규식 필터링을 거친 뒤 자연어 문맥 분석과 LLM 기반 가드레일을 적용하고, 이후 공격 여부를 판별하는 방식이다.

또 대화 누적을 이용한 우회 공격도 별도로 감시한다. 세션 단위 탐지 대상으로는 다회 대화로 보안 체계 우회 시도인 에코 챔버(Echo Chamber) 공격과 탈옥 시도가 포함되며, 반복적 상호작용 기반 공격을 추적한다. 이는 AI 에이전트의 허용 범위 내 작동 통제를 목적으로 한다.

정보 유출 위험에 대한 감시 기능도 탑재됐다. 탑재 기능으로 정보유출방지(DLP)를 제공하며, DLP는 금융결제원 CMS 계좌번호 체계와 국토교통부 차량번호 형식을 지원한다. 또 이름, 주소, 주민등록번호 등 개인정보를 탐지·비식별화 대상으로 삼는다.

실제 적용 전에는 별도 샌드박스에서 보안 정책 적용 전 공격 시나리오 시험용 시뮬레이션을 제공한다. 이 샌드박스에서 탐지 정책을 검증하도록 구성됐으며, 기대 효과는 정상 요청 차단 오탐 감소와 공격 누락 미탐 감소다.

운영 단계에서는 호출 로그와 이상 징후를 관리한다. 호출 로그는 AES-256 암호화 방식으로 저장·관리되며, 관리자가 로그를 열람할 때는 사유를 입력해야 한다. 이상 징후에 대해서는 설정한 탐지 기준을 초과하면 담당자에게 알림을 발송한다.

배포 환경은 기업 AI 인프라에 맞춰 선택할 수 있다. 구축 가능 환경은 퍼블릭 클라우드와 폐쇄망의 도커·쿠버네티스다. 이에 따라 내부 RAG·업무용 AI 에이전트 운영 기업·기관과 보안 요구 높은 금융·공공 분야에 적용할 수 있다.

정승모 아이티센글로벌 AI이노베이션센터장은 에이전트고 가드가 AI의 비윤리적·혐오적 표현, 프롬프트 인젝션, 기밀 유출, 환각에 따른 거짓 정보를 사전 통제하는 엔터프라이즈 AI 방어선이라고 밝혔다. 아울러 기업의 안전한 AI 활용을 지원하겠다는 의지를 밝혔다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=406349

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=406349