보안

AI 사이버공격 '자율화 단계' 진입…기업, 보안 대응 변화 '필요'

테크월드뉴스 ·

AI 사이버공격 '자율화 단계' 진입…기업, 보안 대응 변화 '필요'
[사진=구글클라우드]

✦ AI 요약

구글 위협 인텔리전스 그룹(GTIG)은 17일 'AI 위협 추적 보고서(AI Threat Tracker)'를 발표했다.

보고서는 AI 활용이 사람 보조를 넘어 자율형 멀티 에이전트 프레임워크와 자동화된 취약점 악용으로 확장됐다고 밝혔다.

GTIG는 사람 개입이 없는 취약점 악용 사례와 함께 향후 공격 시간 단축과 규모 확대를 우려했다.

AI를 활용한 사이버공격이 지속적으로 고도화되면서 공격 수행 방식이 사람 보조 수준을 넘어 자율화 단계로 이동하고 있다. 최근 업계 보고서 기준으로는 사람 개입 없이 취약점을 탐지하고 공격 코드를 개발하는 수준에 도달했으며, AI 에이전트 기반으로 공격 단계를 자율 수행한 사례도 지속적으로 확인되고 있다. 이에 따라 자동화에 따른 공격 속도와 규모의 확대가 전망된다.

구글 위협 인텔리전스 그룹(GTIG)은 17일 'AI 위협 추적 보고서(AI Threat Tracker)'를 발표했다. 해당 보고서에는 지난 9월 발표 이후 관찰된 AI 활용 사례 분석이 수록됐으며, 분석 대상은 사이버 범죄와 첩보 활동, 정보작전이다.

보고서에 따르면 최근 위협 행위자들은 단순 프롬프트 입력을 넘어 자율형 멀티 에이전트 프레임워크를 활용하고 있으며, 자동화된 취약점 악용 기술도 공격에 활용하고 있다. 이로 인해 기존에 인간이 수행하던 업무의 여러 공격 단계가 자동화되고 있으며, 다수의 표적 대상을 향한 공격도 신속하게 진행되고 있다.

공격용 멀티 에이전트 프레임워크의 사례로는 아르텍스(ARTEX), 케언(CAIRN), 사이버스트라이크AI(CyberStrikeAI), 펜트AGI(PentAGI) 등이 제시됐다. 보고서에서는 한 위협 행위자가 미국 항공우주 산업을 대상으로 한 침투 과정에서 케언을 활용한 사례도 언급됐다.

이와 함께 주목 지점은 취약점 연구 및 악용의 자동화로 옮겨간다. 위협 행위자들은 LLM·에이전틱 프레임워크로 보안 패치 전후 코드 변화 비교 분석(differential analysis)을 수행하고 있으며, 그 목적은 수정된 취약점을 식별하는 데 있다. 이 과정에서 리버스 엔지니어링 과정도 전면 자동화되고 있다.

이 같은 패치 전후 코드 비교를 통한 취약점 발굴은 엔데이(N-day) 취약점의 신속한 무기화로 이어질 수 있다. 또한 인간 개입 없이 인터넷 노출 서버를 대상으로 대규모 자동화 공격을 할 수 있게 된다.

GTIG는 사람이 전혀 개입하지 않은(human-out-of-the-loop) 취약점 악용 사례를 사상 처음 확인했다고 밝혔다. GTIG는 또 러시아어 기반 도구들로 구성된 'exploit_agent'라는 LLM 프레임워크가 존재한다고 발표했으며, 이 프레임워크는 패치 적용 전후 코드의 지속 비교를 통해 취약점을 탐지하고 인간 개입 없이 공격 코드를 자동 개발하는 기능을 갖춘 것으로 제시됐다.

AI 기반 공격이 금전 목적 사이버범죄로 확대되고 있다. 침투한 기업 환경 내 LLM 자격 증명을 탈취하고, 침투한 기업 환경 내 클라우드 자원을 탈취한 뒤, 이 탈취 자원을 활용해 지하 프록시 서비스 'LLM 믹서'를 통해 프런티어 AI 모델 접근 권한을 재판매하는 흐름이 나타나고 있다.

정보작전(IO) 분야에서도 LLM 활용이 증가하고 있다. 국가 지원 위협 그룹과 Influence-as-a-Service 업체, 정치 콘텐츠 수익형 가짜 계정 네트워크가 LLM을 일상적으로 활용하고 있으며, 그 목적은 합성 미디어의 대량 제작과 현지화된 페르소나 생성, 여러 플랫폼을 대상으로 한 콘텐츠 유포 자동화에 있다.

국가 연계 해킹 조직의 AI 활용도 정교화되고 있다. GTIG는 중국 연계 사이버 첩보 조직이 LLM으로 공격 대상 조사를 수행하고 데이터 분석을 자동화하며 새로운 공급망 공격 경로를 개척하고 있다고 발표했다. 대표 사례로는 자율형 코딩 어시스턴트의 설정을 조작해 로컬 환경에서 코드를 실행할 때 백도어를 삽입하는 방식이 제시됐다. GTIG는 중국 연계 사이버 첩보 조직의 LLM 활용 범위가 대상 조사와 데이터 분석 자동화, 공급망 공격 경로 개척까지 확대됐다고 밝혔다.

보고서는 북한 연계 공격자들이 AI 생성 가상 인물과 관련 도구를 실제 공격 과정에 활용한 정황을 제시했다. 표적은 암호화폐 기업이었으며, 일부 가짜 인물 이미지에서는 구글 AI 워터마크 SynthID가 확인됐다. 또 자율형 코딩 어시스턴트의 설정을 조작하려는 시도도 포착됐다.

GTIG는 이를 바탕으로 적대적 AI 위협 환경이 중대한 전환점에 진입했다고 강조했다. 동원 사례로는 자율형 멀티 에이전트 프레임워크와 자동화된 취약점 악용 파이프라인, LLM재킹(LLMJacking) 등 새로운 수익화 방법이 제시됐다.

GTIG는 향후 사이버 공격에서 AI 에이전트 활용과 자동화 프레임워크 활용이 확대될 것으로 전망했다. 아울러 생성형 AI 활용에 따라 공격 시간이 단축되고 작전 규모가 확대되며, machine-speed 수준의 다단계 침투 공격이 수행되는 양상이 나타날 수 있다는 점을 우려했다.

업계 관계자들은 AI 활용 취약점 악용 가능성과 공격 실행 자동화 진행을 경고하면서 보안 대응 방식에도 자동화 대응이 필요하다고 밝혔다. 이들은 사이버공격의 지속적 고도화로 기존 대응 방식의 한계가 노출되고 있어 기업의 취약점 관리 역량 확보 중요성과 기업의 위협 탐지·대응 자동화 역량 확보 중요성이 확대될 것으로 전망했다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=409907

참고자료

이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.


출처 테크월드뉴스

원문 확인

이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.

이어서 보기

BizCrush
온라인 회의 화면에 실시간 자막을 띄운 BizCrush

BizCrush 앱

회의·통화 실시간 자막과 요약

주식회사 비즈크러시 · 대표 곽태민 · 사업자등록번호 691-86-03729

서울특별시 강남구 영동대로 602, 6층 602호 내 Z112 (삼성동, 삼성동 미켈란 107)

고객문의 help@bizcrush.ai · 사업 제휴 문의 business@bizcrush.ai

AI 안내

일부 서비스는 생성형 AI를 활용합니다.

해당 기능에는 이용 전 안내와 AI 생성 결과 표시를 별도로 제공합니다. AI 결과는 참고용이며, 중요한 결정 전에는 반드시 원문 확인과 전문가 검토가 필요합니다.