“LLM만 봐선 못 지킨다”…프라이빗에이아이, AI 보안 플랫폼 승부수

아이티데일리에 따르면 김영랑 프라이빗에이아이 대표는 4일 서울 중구 반얀트리 서울에서 열린 프라이빗 에이아이 테크 서밋(PRIBIT AI Tech Summit)에서 LLM 단독 관점으로는 보안 대응에 한계가 있다며, 프라이빗에이아이의 AI 보안 플랫폼 전략을 제시했다. 김영랑 대표의 발표 주제는 사람과 AI가 공존하는 시대, 대비해야 할 Risk였다.

김영랑 대표는 AI 에이전트발 보안 문제와 해결책을 설명하면서 AI 사용은 쉽지만 통제는 쉽지 않다고 밝혔다. 이어 활용 주체 파악이 필요하고, AI가 연결된 데이터와 시스템 파악이 필요하며, 답변 과정의 오판·왜곡 여부 점검이 중요하다고 말했다. 또 문제 해결에 모델 하나만 봐서는 부족하다고 밝혔다.

김영랑 대표는 AI 보안 대응의 핵심을 개별 모델이 아니라 AI가 연결되는 전체 환경의 관리로 제시했다. 이에 따라 데이터·네트워크·AI를 포함한 시스템 전반의 통합 관리가 필요하다고 설명했고, 데이터·네트워크·AI를 한 플랫폼에서 관리하는 방식이 해결책으로 제시됐다. 사진은 김호준 기자가 제공했다.

프라이빗에이아이는 7월 사명 변경을 계기로 정체성을 재정립했다고 밝혔다. 이에 따라 사이버보안 기업에서 AI 거버넌스·위험통제 기업으로 정체성을 전환했다. 이는 AI 활용이 기업 전반으로 확산하면서 데이터 접근·권한·실행 과정 위험의 통합 관리 체계가 중요해졌다고 판단한 데 따른 것이다.

회사는 특히 AI 에이전트 활동의 백그라운드 영역에 주목했다고 밝혔다. 사용자가 확인할 수 있는 범위는 입력 프롬프트·생성 결과물에 그치지만, 백그라운드 영역에서는 AI가 요청 기반 계획 수립을 하고 외부 도구를 호출하며 검색·실행 반복을 수행한다는 것이다.

김 대표는 해당 영역이 보안 공백 상태라고 봤다. 그는 사이버보안이 AI 기술 발전 속도를 따라가지 못하고, 기존 보안 솔루션과 AI 통제가 분리 운영된다고 밝혔다. 또 보안의 관찰 대상은 사람·네트워크이고 AI 통제의 관찰 대상은 프롬프트·모델이라며, 두 체계를 한 흐름으로 보지 못해 문제 검증·조치가 어렵다고 설명했다.

프라이빗에이아이는 사용자부터 AI까지 이어지는 전체 구조를 하나의 통합 체계로 보호하도록 설계한 통합 플랫폼 '프라이빗 AI 플랫폼(PRIBIT AI Platform)'을 제안했다. 보호 범위는 사용자·단말·네트워크·AI 전 구간이며, 보호 방식은 엔드투엔드다. 플랫폼은 제로트러스트 아키텍처 기반 '패킷고 OS(PacketGo OS)', 위헙 관리 특화 솔루션 '리스크 인텔리전스(RISK Intelligence)', 전용 AI 업무 공간 '프라이빗 워크스페이스(PRIBIT Workspace)'로 구성되며, 세 솔루션을 통합해 제공한다.

프라이빗 AI 플랫폼은 기업 내외부 데이터 이동을 중앙 통제하고, 데이터를 위험성 기준으로 분류한 뒤 이 분류 정보를 기반으로 AI를 차등 연결하는 방식으로 운영된다. 기밀 데이터는 내부 문서 기반 검색증강생성(RAG)·폐쇄형 모델을 활용하고, 민감 정보는 기밀보다 낮은 위험도일 경우 승인 후 외부 AI 사용을 허용한다. 개방 가능 데이터는 퍼블릭 거대언어모델(LLM)을 활용한다.

통합 구조 기반 AI 거버넌스 확보는 사용자·단말 안전 수준별 접근 권한 통제, 데이터 중요도별 상이한 AI 서비스 적용, 위험 실행·오류 데이터 전송의 허브 단계 즉시 차단, 토큰 소모량 점검 기반 과다 사용 비용 절감까지 한 흐름으로 묶어 조직의 AI 활용 안전성과 비용 효율을 높이는 방식이다.

프라이빗에이아이는 이 같은 구조를 담은 '프라이빗 AI 플랫폼' 도입과 관련해 일부 기업·기관과 논의 중이며, 솔루션은 내년 초 공식 출시 예정이라고 밝혔다.

같은 맥락에서 김영랑 프라이빗에이아이 대표는 사람과 AI의 공존을 지향하며, 기업이 통제권을 유지한 채 AI에 더 많은 업무를 안전하게 맡기도록 지원하는 회사로 자리매김하겠다는 방침을 밝혔다.

프라이빗에이아이는 4일 반얀트리 서울에서 '프라이빗 AI 테크 서밋'을 개최했으며, 행사 참석 주요 귀빈이 기념촬영을 했다. 1열 왼쪽부터 최강혁 국가인공지능전략위원회 보안특별위원회 분과위원, 정의원 김·장 법률사무소 고문, 윤오준 법무법인 율촌 상임고문, 김영랑 프라이빗에이아이 대표, 염흥열 순천향대학교 교수, 서석진 프라이빗에이아이 감사, 류재철 충남대학교 교수 순이며, 사진 제공은 프라이빗에이아이다.

'프라이빗 에이아이 테크 서밋'이 개최됐다. 이번 행사는 프라이빗에이아이 신규 사업 방향 공유와 AI 전환 과정의 주요 보안 과제 논의를 목적으로 마련됐다. 먼저 손기욱 서울과학기술대 교수이자 한국사이버안보학회장이 'AI 에이전트 시대, 사이버보안'을 주제로 발표하고, 글로벌 컨퍼런스·연구 기반 기술 동향을 점검했다.

오후 세션이 진행됐으며, 이 세션에서는 산업별 구체 논의가 이뤄졌다. 강형우 고려대 교수이자 금융보안연구회장은 'AI/SaaS 활용을 위한 금융권 제로트러스트 도입 전략'을 주제로 발표하고 규제 엄격한 금융 환경의 필요 신뢰 체계를 설명했다. 김창훈 대구대 교수이자 N2SF연구회 위원장은 '국가 AI 사이버보안 프레임워크(CSF) 설계 방향과 핵심 기술'을 주제로 발표하고 AI 활용 확산 대응 방안을 소개했다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241417

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241417