[인터뷰] “AI 에이전트 보안, 핵심은 ‘의도’를 읽어내는 것”

아이티데이가 JP Yu 프루프포인트 동남아시아·한국(SAK) 총괄 부사장을 인터뷰 형식으로 만나 AI 에이전트 보안의 핵심으로 '의도'를 제시한 내용을 전했다. 사진은 프루프포인트가 제공했다.

JP Yu는 AI 에이전트 확산 상황에서도 데이터가 외부로 이동하려면 결국 사람 또는 AI 에이전트의 개입이 필요하다고 설명했다. 그는 이런 점에서 보안의 기본은 변하지 않는다고 봤다.

그 근거로는 AI 에이전트가 데이터에 접근할 수 있다는 점과, AI 에이전트가 본래 목적과 다른 행동을 할 수 있다는 점이 제시됐다. 이에 따라 쟁점은 정상 업무와 위험 활동을 어떤 기준으로 구별하느냐에 맞춰진다고 유 부사장은 설명했다.

유 부사장은 그 기준으로 '의도'를 제시했다. 접근 권한만 확인할 것이 아니라 해당 행동이 어떤 맥락과 의미, 목적에 놓여 있는지를 함께 검토해야 보호가 가능하다는 설명이다. 그는 호텔 직원 사례를 들어 AI 에이전트 보안을 설명했다.

호텔 직원의 객실 출입 권한은 아침 청소·저녁 침구 정리 목적에서 이뤄진다. 그러나 목적과 무관한 평소와 다른 시간대 객실 출입은 비정상 행위로 봐야 한다. 보안 솔루션의 요구사항도 이런 이상 행위를 신속 탐지·조치하는 데 있다는 설명이다.

이 같은 문제의식과 관련해 프루프포인트는 사람 중심 보안을 AI 에이전트까지 확대하는 방향을 제시했다. 확대 배경으로는 AI 에이전트의 대리 업무 수행에 따른 보안 위험 인식이 꼽혔다. 프루프포인트 측은 사람과 AI 에이전트는 보안 측면에서 큰 차이 없다고 밝혔다.

프루프포인트의 사업 영역에도 변화가 있었다. 이메일 보안 출발→데이터 보안·AI 거버넌스 확장이라는 흐름이다. 이는 AI 시대 진입 후 사이버보안 측면의 최대 변화를 묻는 질문에 대한 설명 과정에서 제시됐다.

프루프포인트 측은 생성형 AI 확산 이후 피싱·사회공학 공격이 고도화됐다고 밝혔다. 프루프포인트는 20년 넘게 이메일 보안을 수행해 왔고, 전 세계 이메일 3분의 1 분석 규모의 데이터를 축적해 왔다. 이 축적 데이터에서 확인된 변화로는 비영어권 국가 대상 공격이 최근 크게 증가한 점이 제시됐다.

영어 대비 한국어·일본어 사용 가능 해커 수 적다는 점이 있었지만, AI로 번역이 쉬워지고 빨라진 변화가 나타났다는 설명이다. 그 결과 다양한 언어권에서 피싱 공격 증가 추세가 이어지고 있다고 프루프포인트 측은 밝혔다.

새로운 AI 대상 위협이 등장한 상황에서도 이메일은 과거와 현재 모두 주된 공격 경로라고 발화자는 밝혔다. 발화자는 공격 상당수가 이메일에서 발견된다고 설명했다.

다만 발화자는 이메일의 중심성은 유지되지만 이메일 외 공격 경로가 증가하고 있다고 말했다. 또 악의적 프롬프트를 AI 서비스에 삽입하는 시도가 발생하고 있으며, AI 에이전트 해킹·악용 시도도 발생하고 있다고 전했다.

발화자는 마이크로소프트(MS) Teams, Slack도 새로운 표적이 되고 있다며 공격 양상이 변화하고 있다고 설명했다. 이어 이메일 내 악의적 프롬프트 삽입 방식이 사용되고 있다고 밝혔다.

구체적으로 발화자는 글자 크기 0 설정으로 숨김 프롬프트를 삽입하는 수법과 흰색 글씨를 사용해 사람에게는 비가시지만 AI는 판독 가능한 프롬프트를 삽입하는 수법이 나타나고 있다고 말했다. 사람이 인지하지 못한 명령을 AI가 읽으면 공격자 의도대로 동작하게 된다고 발화자는 설명했다.

프루프포인트는 AI 에이전트를 사람과 분리된 예외적 존재로 보지 않고 사람과 동일한 관점에서 본다. AI 에이전트는 사람을 지원하고 업무를 대행하는 역할을 맡으며, 본래 목적상 사람처럼 DB 접속과 문서 작성 같은 업무를 수행할 수 있다. 동시에 사람처럼 공격 대상이 될 수 있고, 지시되지 않은 방향으로 움직일 가능성도 있는 만큼 보안 관리 대상이라는 시각이다.

이 때문에 프루프포인트는 접근 대상 자체보다 의도에 중점을 둔다. 판단 기준은 해당 행동이 업무 목적과 정책에 부합하는지 확인하는 데 있으며, 정상 권한을 보유했다는 사실만으로 모든 행동의 정당성을 판단할 수는 없다고 본다. 결국 AI 에이전트든 사람이든 같은 기준 아래, 맡은 업무와 정책에 맞는 행동인지 의도 중심으로 가려야 한다는 설명이다.

발언자 요지는 데이터가 저절로 밖으로 나가지는 않으며, 외부로 움직였다면 사람 또는 AI 에이전트가 무언가를 건드린 것이라는 데 있다. 다만 데이터 이동 같은 결과나 개별 행위만으로는 위험성을 판단하기 어렵다고 봤다. 따라서 정황과 맥락을 함께 살펴 숨은 의도를 파악해야 하며, 이런 의도 파악이 문제 탐지의 전제가 된다는 취지다.

프루프포인트는 내부 활동 모니터링으로 위험 신호를 탐지하고 조직에 통지한다고 밝혔다. 실제 사례로는 한 글로벌 제약회사에서 백신 개발 관련 기밀 데이터 반출 시도가 의심되는 내부 직원을 식별한 경우가 있었다. 식별 수단은 프루프포인트 솔루션이었으며, 수백 개 파일 이동 시도라는 비정상 활동을 포착하고 증거를 제공한 것이 근거가 됐다.

이어 AI 에이전트는 비인간 특성상 사람과 동일한 방식으로 이상 행동을 판단할 수 있는지에 대한 질문에, AI 에이전트에도 유사 접근법이 필요하다고 답했다. 이를 위한 전제 조건으로는 가시성을 제시했다.

가시성은 누가 어떤 AI를 사용하는지, 어떤 정보가 입력됐는지, 민감한 데이터가 포함됐는지를 파악하는 범위를 뜻한다. 아울러 사람·AI 에이전트·데이터 사이의 모든 상호작용을 포착·통제하는 체계가 필요하다고 설명했다. 그래야 시스템 내부에서 어떤 일이 벌어졌는지를 파악하고 숨은 의도를 감지할 수 있다고 밝혔다.

전통적 DLP 솔루션은 규칙 기반으로 작동한다. DLP 솔루션의 강점은 데이터 성격 검증과 사용자 정책 준수 여부 검증에 있다. 다만 규칙 기반 통제는 행위의 맥락을 파악하기 어렵다는 한계가 있다.

에이전트는 정상 권한으로 시스템에 진입한다. 이 때문에 비정상 여부를 판단하려면 여러 정보를 종합해야 한다. 권한 여부만이 아니라 권한 외 맥락·의도 확인이 필요하다는 설명이다.

다른 아시아 국가 대비 한국 특징에 대한 질문에 대해 발언자는 한국이 높은 교육 수준 인력을 보유하고, 우수한 광대역 인터넷 보급률을 장기 유지해 왔으며, 높은 디지털 성숙도를 갖춘 시장이라고 평가했다. 또 한국 기업들은 신기술에 대한 관심이 크고 실제 도입 속도도 빠르다고 봤다.

아울러 한국은 글로벌 AI 공급망의 중요한 부분이고, 지정학적 환경을 고려할 때 국가안보 측면의 중요 시장이며, 지식근로자 비중이 높아 엔터프라이즈 소프트웨어 기업이 주목하는 시장이라고 했다. 프루프포인트는 이를 근거로 한국을 아시아태평양 지역 다음 성장 핵심축으로 판단했으며, 한국이 아태 성장 핵심축이고 혁신을 뒷받침할 브레이크가 필요하다는 취지로 설명했다.

발언자는 AI 도입이 빠른 한국 시장과 관련한 질문에 대해 혁신과 보안은 병행이 필요하다고 밝혔다. 보안은 혁신의 저해물이 아니라 기반이라고 설명했다.

발언자는 이를 경주용 자동차에 비유하며 브레이크를 신뢰할 수 있어야 고속 주행이 가능하다고 말했다. 시속 300킬로미터(KM)로 질주하려면 그에 상응하는 브레이크가 필요하며, AI 혁신에도 동일한 원리가 적용된다고 밝혔다.

또 기업들은 빠른 변화와 성과를 추구하지만 데이터 주권과 개인정보 보호를 간과할 수는 없다고 했다. 데이터 보호와 혁신 속도 유지를 위해서도 보안은 필수라고 설명했다.

이어 한국에서의 향후 투자 계획과 관련해 한국은 이미 큰 시장이라고 평가했다. 동시에 한국 시장의 성장 가능성이 크다며 지속적인 투자가 필요하다고 밝혔다.

투자 방향으로는 인력 충원과 파트너 생태계 강화를 제시했다. 아울러 프루프포인트 솔루션의 한국 시장 적합성을 높이기 위해 언어 지원과 현지화 강화를 투자 항목으로 추진할 계획이라고 밝혔다.

질문은 '사람 중심 보안' 출발점 이후 프루프포인트의 다음 행선지를 묻는 내용이다. 이에 대해 발언자는 AI의 업무 환경 깊숙한 도입으로 보호 범위가 확대됐다고 설명했다.

발언자는 프루프포인트의 이메일 보안 축적 역량을 바탕으로 해당 역량의 데이터·AI 에이전트 영역 확장을 추진하고 있다고 밝혔다. 이어 직원이 일하는 모든 곳 보호를 지향하며, 보호 대상 공간의 예시로 이메일·협업 환경·AI 환경을 들었다. 또한 역할은 사람과 데이터 보호라고 설명했다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241314

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241314