기업 AI 계정 노리는 'LLM재킹' 확산…1일 10만 달러 요금 폭탄 주의

기업의 AI 모델 접근 권한을 노린 'LLM재킹(LLMJacking)' 공격이 확산하고 있다. 이 공격은 탈취한 API 키로 AI 모델을 무단 사용하고, 탈취한 API 키를 기반으로 제3자를 상대로 저가 재판매하는 수법으로 이뤄진다. 그 결과 기업에는 막대한 사용 요금이 발생해 기업 AI 자원 관리 강화와 보안 강화의 필요성이 커지고 있다.

구글위협인텔리전스그룹(GTIG)·맨디언트는 지난 4일 'LLM 재킹' 위협 보고서를 발표했다. 이 보고서에 따르면 최근 공격은 북미·남미·아시아태평양에서 발생했으며, 금융·유통·기술·운송 기업 등이 공격 대상 업종으로 지목됐다.

보고서는 LLM재킹이 크립토재킹(CryptoJacking)과 달리 자원을 점진 소모하는 방식이 아니라고 설명했다. 대신 LLM재킹은 대규모 API 호출이 특징이며, 이로 인해 단기간 내 막대한 비용이 발생하는 결과로 이어진다고 짚었다.

대규모 언어모델 관련 부정 사용 피해는 단기간에 급증하는 양상을 보였다. 하루 만에 10만 달러 이상 부정 사용 요금이 발생한 사례가 있었고, 일부 기업에서는 무단 접근을 차단하기 전에 누적 피해액이 100만 달러에 도달한 사례도 확인됐다.

공격자들의 초기 접근 경로로는 자격 증명 탈취가 지목됐다. 이들은 세션 하이재킹(session hijacking)을 활용해 표적 환경에 침투했고, 공개된 깃허브(GitHub) 저장소에 노출된 유효 자격 증명도 수집한 것으로 나타났다.

존 헐트퀴스트(John Hultquist) GTIG 수석 애널리스트는 공격자들이 LLM 재킹을 적극 활용하면서 방어자들에 대비해 규모 우위를 추구하고 있다고 설명했다. 그는 또 공격자들이 에이전틱 도구를 활용해 피해자가 인지하지 못한 상태에서 토큰을 탈취하고, 이를 바탕으로 공격 규모를 확대하고 있다고 밝혔다.

이들의 주요 수익 모델로는 암시장 수익화와 'LLM 믹서(LLM Mixers)'가 제시됐다. 공격자들은 탈취한 API 키를 불법 프록시 게이트웨이(중계 서버)로 묶었고, 이렇게 확보한 모델 무단 접근 권한을 사이버 범죄 암시장에서 대폭 할인한 가격에 재판매해 수익을 창출했다.

한 불법 토큰 라우팅 서비스가 구매자들을 대상으로 월 60달러 수준으로 프런티어 모델 무제한 이용을 제공했으며, 이로 인한 모델 사용 비용은 피해 기업에 약 100만 달러가 청구된 사례가 제시됐다. 이 사례는 저가의 무제한 이용 제공 뒤 실제 비용이 피해 기업에 전가된 구조를 보여줬다.

이를 배경으로 회사는 LLM재킹 공격이 확대되고 있다고 언급하며, 기업의 AI 자원 관리 중요성이 커지고 있다고 지적했다. 회사는 대응 방안으로 전략적 위협 탐지를 위한 헌팅(threat hunting), 조직 내 비인가 LLM(shadow LLM) 현황 파악, API 키 권한 세분화, 자동화된 시크릿 스캐닝(secret scanning)을 제시했다.

존 헐트퀴스트 GTIG 수석 애널리스트는 비용 폭탄을 막고 공격자의 저비용 자율형 공격으로부터 커뮤니티 전반을 보호하기 위해 기업이 LLM 자원 접근을 엄격히 통제할 필요가 있다고 밝혔다. 그는 AI 모델·컴퓨팅 자원이 미흡하게 모니터링·보호될 경우 제3자에 의해 무단 악용될 수 있다고 보고, 자원 사용 내역을 철저히 점검하고 다중 인증(MFA)을 활성화하며 계정 정보를 신중히 관리할 것을 권고했다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=409293

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=409293