[현장] AI 공격은 가속, 방어는 분절…“공통 보안 기준 세워야”

17일 'CSK 2026'에서는 'AX 시대, 필요한 국가 AI 보안 전략' 세션이 진행됐다. 세션에는 김창훈 대구대 교수, 최영철 SGA솔루션즈 대표, 박상규 팔로알토네트웍스 코리아 대표, 이원태 국가AI전략위 보안특위 위원장이 참석했다. 사진 촬영은 김호준 기자가 맡았다.

이날 세션에서는 AI가 계정, 단말, 네트워크를 취약점 결합 대상으로 삼아 공격 경로를 생성하고, 이에 따라 사이버 공격이 속도·규모 전반의 고도화 양상을 보인다는 점이 제시됐다. 또 AI의 활동 범위가 산업·기관 경계를 횡단하는 만큼, 이에 대응하기 위한 보안 전략의 재정비가 필요하다는 의견이 나왔다.

전문가들은 이런 상황에서 영역별 분산 보안 통제 항목을 정렬하고 국가 차원의 공통 보안 기준을 수립해야 한다고 제언했다. 아울러 기존 컴플라이언스를 단순 통합하는 방식은 지양하고, 공통 기준을 마련한 뒤 분야별 적용 수준을 차등화해야 한다고 제안했다. 이는 제로트러스트 등 새로운 보안 아키텍처 도입의 기준점을 확보하고, 보안 체계의 실제 방어 기능이 작동하도록 하기 위한 목적이라고 설명됐다.

17일 '사이버 서밋 코리아(CSK·Cyber Summit Korea) 2026'가 개최됐다. 행사에서는 'AI 전환(AX) 시대, 필요한 국가 AI 보안 전략' 세션이 진행됐으며, 세션 주제는 국가 AI 보안 전략이었다.

이번 세션은 이원태 국가AI전략위원회 보안특위 위원장이 좌장을 맡았다. 참석자로는 김창훈 대구대학교 교수, 최영철 SGA솔루션즈 대표, 박상규 팔로알토네트웍스 코리아 대표가 이름을 올렸다.

김창훈 대구대학교 교수는 17일 CSK 2026 세션에서 발표했다. 관련 사진은 김호준 기자가 촬영한 것이다.

세션에서는 AI 확산에 따라 사이버보안의 보호 대상이 확대되고 있다는 점이 제시됐다. 관리 대상의 시작점은 서버 인프라였으며, 클라우드와 애플리케이션을 포함해 AI 에이전트 관련 업무와 판단, 데이터 처리까지 관리 대상에 포함됐다. 또한 AI의 작동 방식이 여러 시스템·데이터를 연결하는 구조이기 때문에 시스템·데이터 연결 결과로 공격자 침투 지점이 증가하는 흐름이 제시됐다.

공격 방식이 고도화하고 있다. 공격자는 단말·계정·네트워크 취약점의 개별 공략에 그치지 않고, 취약점들의 연계를 통한 새로운 침투 경로를 탐색하고 있다. 이 같은 연계 공격은 시스템 붕괴로 이어질 수 있다. AI는 이런 분석을 사람보다 더 빠르게 수행한다.

김 교수는 AI 기반 공격자가 단말·계정·네트워크 취약점을 분리해 보지 않으며, 취약점 간 관계 분석·결합을 통해 공격 수위를 상승시킨다고 설명했다. 또 AI 에이전트는 공격에서 인간보다 시간 소모가 적고, 공격에서 인간보다 우수하다고 밝혔다.

반면 보안 시스템은 이런 변화를 추종하는 데 미흡하다. 기존 장비의 상당수는 사전 설정 규칙과 알려진 공격 패턴을 중심으로 위협을 탐지하고 있다. 여러 영역을 오가며 전개되는 공격을 차단하기 위해서는 위협 모델링이 필요하다. 김 교수는 위협 모델링에서 보호 자산과 시스템 계층, 예상 위협과 피해 수준을 함께 분석해야 한다고 진단했다.

AIDC는 해당 공격에 상대적으로 높은 취약성을 지닌다. AIDC를 구성하는 GPU는 RDMA·Remote Direct Memory Access 기반으로 데이터를 송수신한다. RDMA는 중간 장치 없는 데이터 전송 방식으로 고속성을 갖지만, 보안 통제가 취약할 가능성이 있다는 설명이다.

이에 대해 김 교수는 향후 보안 분석 방식을 제언했다. 보호 대상 자산과 공격 발생 계층, 위협 유형을 기밀성·무결성·가용성 관점으로 연결해 분석할 필요가 있다고 봤다. 이어 위협 모델링 결과를 바탕으로 보안 통제 항목과 적용 수준을 결정할 필요가 있다고 제시했다.

또한 보안 통제 항목과 적용 수준은 보안운영센터(SOC)와의 연계가 필요하다고 설명했다. 위협 모델링에서 도출된 결과가 통제 수준 설정에 그치지 않고 실제 운영 체계와 연결돼야 한다는 취지다.

그러나 국내 보안체계는 담당 부처와 산업별로 분산돼 있다. 공공 부문은 국가 망 보안체계(N2SF)를 적용하고, 국방은 한국형 위험관리 프레임워크(K-RMF)를 적용하며, 민간 기업은 정보보호 및 개인정보보호 관리체계(ISMS-P)를 준수하는 방향이다. 전문가들은 현 구조로는 AI 시대 위협 대응이 곤란하다고 진단했다.

여러 체계는 각 체계별 적용 대상·목적 차이가 있지만, 자산 식별·접근통제·위협 분석 등 기술 요소 중첩이 있는 것으로 제시됐다. 이에 전문가들은 AI 위협에 공통 적용 가능한 통제 항목의 도출을 제안했고, 도출 항목의 국가 차원 기준선 활용도 제안했다. 김 교수는 각 제도 간 기술적 중복을 지적하면서 공통 기술의 통합·내실화 필요를 주장했다.

김 교수는 보안 관장 부처들의 기술 관련 일관된 입장이 필요하다고 언급했고, 그 목적은 현장 혼선 감소에 있다고 밝혔다. 전문가들도 현행 제도 유지 전제의 공통 기준 마련 필요성에 공감했으며, 기준점 설정 필요성도 함께 제기됐다.

다만 모든 분야에 동일한 보안 강도를 적용할 필요는 없다는 의견이 제시됐다. 국방은 기밀성 중요 영역의 더 강한 통제가 필요한 사례로 언급됐다. 이에 따라 현행 제도를 유지한 채 분야별 기밀성과 데이터 중요도에 따라 통제 강도를 달리하고, 데이터 중요도에 따른 일부 시스템의 분리·격리 수준 차등 적용 방식이 제시됐다.

최영철 SGA솔루션즈 대표는 17일 CSK 2026 세션 발표에서 여러 보안 프레임워크의 공통 핵심이 통제 항목에 있다고 밝혔다. 그는 신규 제도를 신설하기보다 기존 체계의 내용을 비교·정리하는 일이 우선이라고 주장했다.

최 대표는 관계기관이 공동으로 사용할 수 있는 구조를 마련할 필요가 있다고 밝혔다. 이를 위해 AI 관련 보안 통제 항목을 신속히 정비해야 한다고 말했고, 정비된 통제 항목을 각 컴플라이언스에 반영할 필요가 있다고 덧붙였다.

아울러 그는 이 같은 작업을 추진할 담당 기관을 지정할 필요가 있다고 밝혔다. 또는 관계기관 합동 태스크포스(TF)를 구성할 필요가 있다고 설명했다.

기준 마련만으로는 부족하고 실제 작동 단계가 중요하다는 지적도 나왔다. 전문가들은 보안 컴플라이언스 정비만으로는 AI 기반 공격 대응에 한계가 있어 추격이 어렵다고 짚었다.

전문가들은 솔루션 보유 여부를 확인하는 방식에서 탈피할 필요가 있다고 지적했다. 대신 보안 기능이 실제 환경에서 작동하는지를 지속적으로 검증해야 한다고 강조했으며, 제로트러스트가 필수라는 메시지도 제시됐다. 사진은 김호준 기자가 촬영했다.

최 대표는 AI 에이전트로 공격 고도화가 가속되면서 보안 대응이 이를 추격하는 데 실패하고 있다고 밝혔다. 그는 현장 보안 구조가 내외부 경계 중심으로 지속되고 있다고 보고, 보안 체계 전환이 시급하다고 봤다.

그 구현 방안으로는 제로트러스트가 제시됐다. 제로트러스트 아키텍처는 접속 주체·장치·위치·서비스 등 맥락 정보를 확인하고, 필요 권한만 부여하며, 위험 감지 시 세션을 차단하는 방식이다. 또 제로트러스트 적용 대상은 사람 외에도 AI 에이전트·서비스 계정 등 비인간 신원까지 확장 가능하다고 설명됐다.

다만 제로트러스트는 새로운 개념은 아니라고 했다. 정부는 가이드라인을 두 차례 발간했고 관련 지원사업도 여러 차례 진행했다. 그럼에도 최 대표는 제로트러스트 정착 실패의 원인을 기준 부재로 판단했고, 제로트러스트 '도입'의 필수 기능 기준이 불분명하다고 지적했다.

박상규 팔로알토네트웍스 코리아 대표는 17일 CSK 2026 세션 발표에서, 최 대표가 AI 시대에는 위협의 치명성이 더 커졌다고 봤다고 전했다. 최 대표는 이에 따라 제로트러스트가 필수적이라고 봤다.

최 대표는 자율형 SOC 등 자동 대응 체계가 실효성을 가지려면 제로트러스트 기반의 설계·준비가 전제돼야 한다고 설명했다. AI 확산으로 보안 위협이 더 심각해진 만큼, 자동 대응 체계의 효과도 이러한 기반 위에서만 확보될 수 있다는 취지다.

이어 최 대표는 관련 보안 요구 사항의 변화가 필요하다고 밝혔다. 그러면서 그 출발점은 컴플라이언스라고 강조했다.

박 대표는 실제 보안관제센터 운영 사례도 제시했다. 그는 팔로알토네트웍스 운영 보안관제센터 사례를 통해 보안관제 현장에서는 인력이 모든 경보를 처리하기 어려운 상황이며, 기업·기관 대상 보안 경보 규모가 수천·수만 건에 이른다고 설명했다.

박 대표는 공격 속도에 대응하려면 AI 분류와 반복 내용의 자동 처리가 필요하다고 밝혔다. 또 대규모 경보·보안 사고 발생 시 AI가 선행 분석·처리를 맡고, 자동 해결이 불가한 사건만 보안 담당자에게 전달된다고 소개했다. 경보의 1차 선별은 AI가 맡고, 고위험 판단은 사람이 맡는다는 것이 요지다.

박 대표는 보안관제센터의 경보 규모상 경보를 전수 인간 직접 분석하는 것은 불가능하다고 밝혔다. 이에 따라 박 대표는 AI의 경보 선별이 필요하다고 했고, AI가 자동 해결하지 못한 부분은 사람이 판단해야 한다고 설명했다. 이는 AI 도입이 보안 인력을 완전히 대체한다는 의미는 아니며, AI가 반복적 경보 분석과 초기 대응을 담당하고 남는 부분을 사람이 맡는 구조라는 점을 시사한다.

이 같은 구조 아래에서 AI의 역할은 반복적 경보 분석과 초기 대응에 맞춰지고, 사람의 역할은 고위험 사건 판단과 예외 상황 판단으로 옮겨갈 수 있다. 이와 함께 보안 인력 역할 변화 가능성이 확대되고 있으며, 박 대표는 기존 관제 인력이 위협 분석 업무와 대응 전략 수립 업무로 전환할 필요가 있다고 강조했다.

박 대표는 프런티어 AI를 활용한 취약점 점검에도 인간 통제가 필요하다고 밝혔다. AI 에이전트는 짧은 시간 내 다수 취약점을 탐지할 수 있지만, 운영 중인 서비스에 의도치 않은 장애를 유발할 가능성도 있기 때문이다. 이를 위해서는 AI 모델 성능 확보뿐 아니라 에이전트 권한 설정과 에이전트 작업 범위 설정이 필요하고, 결과 검증 전문성이 뒷받침돼야 한다.

박 대표는 AI 보안 대응에서 향후 중요 요소로 프런티어 AI 경험, 사이버보안 지식, 취약점 점검 역량을 꼽았다. 또한 실제 서비스 중단 없이 AI 에이전트의 통제·점검을 수행할 필요가 있다고 설명했다.

이어 좌장으로 토의를 정리한 이 위원장은 AI 공격 대응을 위해 방어체계의 AI 전환 필요성이 확실하다고 밝혔다. 다만 자동화 이전에 AI의 판단 범위와 실행 가능 조치의 명확한 설정이 필요하다고 했으며, 사전 차단을 넘어 침해 이후 피해 시스템의 신속한 격리와 핵심 기능 유지 복원력까지 고려해야 한다고 말했다.

이 위원장은 AI 시대 국가 보안 기준이 통제 항목의 문서 추가에 그쳐서는 안 된다고 밝혔다. 그러면서 국가 보안 기준은 탐지·차단·격리·복구로 이어지는 실제 방어체계 구현이 필요하다고 정리했다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241734

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241734