AI 악용, 코딩 보조 넘어 공격 조율 단계로

인공지능신문에 따르면 앤트로픽은 9월 10일 공개한 보고서에서 AI가 사이버 공격의 코딩 보조를 넘어 정찰과 침투, 탈취, 분석까지 잇는 조율자로 쓰인 실제 악용 사례를 공개했다. 보고서는 2025년 12월부터 2026년 8월까지 확인한 사례를 바탕으로 사이버 공격, 영향공작, 감시, 사기, 무기 개발, 생물학, 불법 증류 등 7개 영역의 위협을 짚었다. 특히 공격 과정 전반을 여러 에이전트가 병렬로 처리하고, 탐지된 악성 도구를 다시 고쳐 배포하는 자동화된 공격 루프가 현실화하고 있다고 봤다. 악용 양상은 가짜 뉴스 생산과 유통, 국가 규모 감시 시스템 설계, 인간 노동자와 결합한 사기, 무기 소프트웨어 개발 지원으로까지 넓어졌다고 전했다. 또 모델 응답을 막는 수준의 안전장치만으로는 정상적 연구와 위험한 활용을 가르기 어려운 분야가 늘고 있다고 했다. AI 보안의 초점이 모델 자체에서 계정과 접근권한, 에이전트, 외부 도구, 데이터, 인프라를 함께 보는 생태계 관리로 옮겨가고 있다는 점이 이번 보고서의 핵심이라고 정리했다.