[정보보호 솔루션 컨퍼런스] “프롬프트 통한 데이터 유출…필터링·비식별화 필요”

생성형 AI 확산에 따라 프롬프트가 새로운 데이터 유출 경로로 부상하고 있어, 입력·출력 데이터 선별 통제 체계의 마련이 필요하다는 지적이 나왔다.

한태동 안랩 책임매니저는 9일 서울 양재 엘타워에서 아이티데일리 주최로 열린 '2026 정보보호 솔루션 컨퍼런스'에서 '당신의 프롬프트는 안전하십니까? 생성형 AI 시대, 기업 프롬프트 보안의 새로운 기준'을 주제로 발표했다.

한태동 안랩 책임매니저는 생성형 AI가 일상적 검색 도구로 정착했다고 설명했다. 이와 관련해 과학기술정보통신부 통계에서는 생성형 AI 이용자 60%가 기존 검색의 절반 이상을 AI로 대체한 것으로 나타났다.

또 과학기술정보통신부 통계에 따르면 생성형 AI 이용 목적 중 '일상적 정보검색' 비중은 42.5%로 집계됐다. 한편 사진은 한태동 안랩 책임매니저가 발표하는 모습이며, 사진은 양승갑 기자가 촬영했다.

생성형 AI 사용이 늘면서 프롬프트에 포함된 중요 정보가 외부로 유출될 위험도 함께 커지고 있다. 하모닉 조사 결과에 따르면 주요 생성형 AI 도구 입력 프롬프트 중 8.5%에 개인·민감·기밀정보가 포함된 것으로 나타났다.

이 같은 정보 유출은 사용자가 문서를 복사해 넣는 과정에서 의도치 않게 발생할 수 있다. 한 매니저는 업무 자료 원문을 복사·붙여넣기하는 과정에서 개인정보·기밀정보가 함께 포함될 수 있다고 지적했다. 또 해당 매니저는 직접 입력하는 경우보다 복사·붙여넣기 과정에서 개인정보 등이 포함되는 사례가 다수라고 설명했다.

이용자에게 보이지 않는 데이터도 위험 요소로 꼽힌다. 예를 들어 HTML 주석 내 데이터 삽입, 메타데이터 내 데이터 삽입, 화면에 렌더링되지 않는 CSS 영역 내 데이터 삽입, 이미지의 흰색 영역에 같은 색 문자로 정보를 은닉하는 방식 등이 가능하다. 사람이 인지하지 못하는 정보도 LLM이 읽고 활용할 수 있다.

일반 이용자 다수는 생성형 AI를 기존 검색 서비스와 크게 다르지 않은 도구로 인식한다. 이에 따라 기업은 관련 보안 공백을 점검해야 한다. 한 매니저는 프롬프트를 통한 개인정보 유출 위협 경로가 발생한다고 설명했다.

다만 생성형 AI 사용 자체를 차단하는 방식은 현실적 대안이 아니다. LLM 사용을 차단하는 사유의 예시로는 데이터 유출 위험이 있지만, LLM 사용 차단은 현업 생산성 저하로 이어질 가능성이 있다. 한 매니저는 전면 금지 대신 안전한 사용 환경을 조성하고 통제 하에 허용하는 방향이 필요하다고 봤다.

이를 위해 한 매니저는 프롬프트 내 데이터와 사용자 의도를 파악할 필요가 있다고 밝혔다. 또 문제 소지가 있으면 차단할 필요가 있다고 설명했다. 아울러 민감정보 유출 여부를 확인할 수 있는 이력을 확보할 필요가 있다고 덧붙였다.

챗GPT·제미나이·클로드 등 범용 AI 서비스에 내장된 가드레일만으로는 기업 개인정보와 기밀정보 유출을 방지하는 데 한계가 있다. 자체 가드레일은 무기 제작·공격 코드 생성 등 명백한 악의적 요청 차단에 초점을 두고 있다. 업무 입력 개인정보와 회사 기밀에 대한 기업 정책 맞춤 통제는 자체 가드레일만으로는 어렵다.

단말에 프로그램을 별도로 설치하지 않는 대안으로 에이전트리스(Agentless) 구성이 제시됐다. 이 방식은 사용자 단말의 인터넷 outbound 경로를 시큐어 웹 게이트웨이(SWG)로 연결해 필터링을 수행하는 구조다.

이 같은 에이전트리스 구성은 별도 에이전트 설치가 불필요하고 기존 브라우저 사용 방식을 유지할 수 있는 점이 특징이다. 이를 통해 외부 AI 서비스로 전달되는 데이터를 통제할 수 있다. 한 매니저는 프롬프트가 인터넷을 통해 외부로 나가므로 해당 구간에 대한 통제가 필요하다고 설명했다.

현장에서는 이러한 통제가 개인정보·기밀정보 유출 차단, 프롬프트 인젝션 대응, AI 이용 이력 모니터링·감사에 활용되는 사례가 소개됐다. 이에 대한 대응 제공 수단으로는 안랩 생성형 AI 보안 솔루션 '시큐어브리지(SecureBridge)'가 제시됐다.

시큐어브리지(SecureBridge)는 개인정보·기밀정보를 탐지한 뒤 차단 또는 마스킹하고, 악의적 프롬프트 인젝션을 LLM 전달 전에 탐지·차단하는 기능을 제공한다. 또 프롬프트 입출력·탐지 이력·사용자 정보를 기록하며, 이 기록 정보는 AI 이용 현황 모니터링과 감사 지원에 활용된다.

한 매니저는 기업이 데이터를 다룰 때 갖춰야 할 보호·관리 요소로 데이터 유출 차단용 필터링 체계의 구축이 필요하다고 했고, 필요 시 비식별화가 가능한 체계도 구비해야 한다고 밝혔다. 이어 기업 전용 서비스의 활용을 권고했고, 투명한 이력 관리를 위한 상세 로깅도 필요하다고 설명했다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241494

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241494