“AI는 이미 업무 속으로”…보안업계, 기업 ‘보안 통제’ 해법 제안

생성형 인공지능(AI)이 업무 환경의 기본 요소로 정착한 가운데, 직원 일부는 답변을 넘어 실행까지 수행하는 AI 에이전트 사용 추세를 보이고 있다. 다만 AI 전환(AX) 속도 대비 보안 위험 요인 해결 수준은 불확실한 상황이다.

이 같은 흐름에 맞춰 보안 기업들은 해당 문제 해결 목적의 새 솔루션 출시 및 시장 공략에 나서고 있다. 이와 함께 AI로 인한 사이버보안 변화의 다각도 조망과 향후 기업·기관의 과제 논의를 위한 자리도 마련된다.

컴퓨터월드/IT DAILY는 9월 9일 서울 양재동 엘타워 5층 오르체홀에서 '2026 정보보호 솔루션 컨퍼런스'를 개최한다. 행사 주제는 'AI for Security, Security for AI(보안을 위한 AI, AI를 위한 보안)'이며, AI로 인한 사이버보안 변화의 다각도 조망과 향후 기업·기관의 과제를 논의하는 논의의 장이 될 전망이다.

한국은행은 지난해 8월 'AI의 빠른 확산과 생산성 효과' 보고서를 발표하고, 근로자 중 생성형 AI 사용 경험자 비중이 63.5%, 업무 목적 기준 생성형 AI 활용률이 51.8%라고 밝혔다. 또 한국의 업무 활용률은 미국 26.5% 대비 약 2배 수준이며, 생성형 AI 활용 시간은 주당 평균 5~7시간으로 나타났다.

이런 확산 흐름 속에서 국내 기업은 생성형 AI 미사용자 찾기 어려운 수준으로 평가됐고, 폐쇄망 비중 높은 산업군의 AX 지연 인식도 약화됐다. 소프트웨어정책연구소(SPRi)는 4월 '2025년 공공부문 AI 도입현황 연구'를 발표하고, 2024년 공공의 업무효율화 목적 AI 도입 계약이 667건으로 2015년 공공 AI 도입 계약 98건 대비 약 6배 증가했다고 제시했다.

AX 관심 증대와 함께 생성형 AI 사용도 늘고 있지만, 기업·기관의 AX 이면 보안 위험 대비 수준 문제도 제기된다. Cisco '2025 데이터 프라이버시 벤치마크 연구'에 따르면 응답자 64%는 생성형 AI발 정보 유출 가능성을 우려했다. 같은 연구에서는 응답자 46%가 직원 이름 또는 정보 생성형 AI 도구 입력 경험이 있다고 응답했고, 응답자 42%는 기업의 비공개 정보 생성형 AI 도구 입력 경험이 있다고 답해 위험 인지와 뚜렷한 대책 부재가 함께 지적됐다.

이 같은 상황에서 보안 위험만을 이유로 한 생성형 AI 제한은 부적절하다는 주장도 나온다. 내부 프라이빗(Private) AI를 구축하면 데이터 유출 부담을 완화할 수 있지만, 프라이빗(Private) AI만으로 만족할 만한 성능을 확보하는 데는 난이도가 존재한다. 이에 따라 내·외부 AI 서비스가 모두 허용된 상태에서 위험을 어떻게 통제할지 마련하는 일이 향후 AX 과정의 기업 과제로 제시된다.

소프트캠프는 AI 에이전트 시대 진입에 따라 허용·차단의 이분법만으로는 보안이 불충분하다고 강조했다. 또 AI 위임 대상과 위임 범위를 설정하는 것이 핵심이라고 봤다. 소프트캠프는 AI 활용도 유지를 전제로 권한·데이터·실행 범위를 정책적으로 제한하는 방식을 해법으로 제안했다.

소프트캠프는 'AI 시큐리티 스위트(AI Security Suite)'를 해법으로 제시하며 AI 보안 강화 전략을 4개 통제 축으로 구성했다. 통제 축 1은 아이덴티티 보안 '실드 ID', 통제 축 2는 외부 서비스 격리 '실드 게이트', 통제 축 3은 MCP·API 중앙 통제 '실드 AI 게이트웨이', 통제 축 4는 AI 에이전트 식별·권한 관리 '실드 에이전트 샌드박스'다.

윈스테크넷은 '스나이퍼 에이아이백스(SNIPER AIVAX)'를 제공하며, 이는 AI 전용 데이터 유출 방지(DLP·Data Loss Prevention) 성격의 기술이다. 이 기술은 프롬프트 내 개인정보·기업 기밀·기술 정보 등 민감 데이터를 검출해 외부 전송 이전 시점에 차단하며, 의도치 않은 정보 유출 차단과 악의적 프롬프트 주입 인젝션(Injection) 공격 차단을 방어 범위로 한다.

'스나이퍼 에이아이백스'는 네트워크 장비 형태로 제공된다. 기업은 내부 환경에 맞춘 에이전트 설치 후 프록시 제어를 선택하거나, API 키로 범용 AI 서비스 연결 후 통제하는 방식을 선택할 수 있다.

지난해 9월 4일 서울 양재동 엘타워에서 '2025 정보보호 솔루션 컨퍼런스'가 개최됐다. 현장 사진 출처는 컴퓨터월드/IT DAILY다.

9일에는 '2026 정보보호 솔루션 컨퍼런스'가 개최된다. 기조연설은 김창훈 대구대학교 정보보호학과 교수가 맡아 'AI데이터센터(AIDC) 사이버 보안체계'를 주제로 발표한다.

이어 최영철 SGA솔루션즈 대표가 AI 시대 서버 보안·마이크로세그멘테이션 기반 제로트러스트 전략을 발표하고, 한태동 안랩 책임 매니저가 프롬프트 중심 생성형 AI 시대 데이터 보안 전략을 소개한다. 김주선 윈스테크넷 이사는 '국가 망 보안체계(N2SF)' 전환 대응 AI-DLP 적용 방안을 발표하며, 김동훈 소프트캠프 컨설팅본부 부장은 AI 에이전트 활용용 'AI 시큐리티 스위트'를 소개한다. 김기웅 KB국민은행 정보보호부 보안전략대응 팀장은 '금융권 AI 공격 시뮬레이션과 대응 전략'을 발표한다.

행사 참여 조건이 안내됐다. '2026 정보보호 솔루션 컨퍼런스' 참가비는 사전 등록자에 한해 무료이며, 사전 등록은 IT DAILY 홈페이지에서 진행된다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241130

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241130