소프트프릭, AI 보안 기술 특허 2건 등록…취약점 진단·접근제어 등 기술 확대

최근 기업의 AI 도입이 확대되고 사이버위협도 고도화되면서 보안 업계의 패러다임이 변화하고 있다. 업계에서는 안전한 AI 사용을 위한 AI 통제·관리에 집중하는 한편, AI 공격 대응을 위해 보안 분야에 AI를 적용하는 데에도 집중하고 있다.

이런 흐름을 고려해 소프트프릭은 AI 관련 기술 특허를 지속적으로 연구·출원해 왔다. 소프트프릭은 12일 AI 보안 기술 특허 2건이 등록됐다고 발표했다.

등록된 특허 분야 2건은 AI 프라이버시 취약점 진단 기술과 AI 게이트웨이 보안 제어 기술이다. 이 가운데 '인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법' 특허는 소프트프릭이 지난해 출원한 AI 프라이버시 취약점 진단 특허 5건 중 하나다.

멀티모달 AI는 텍스트·이미지 등을 함께 처리한다. 다만 멀티모달 AI의 취약점을 점검하는 데에는 텍스트 기반 공격만으로는 충분한 확인이 어렵다는 한계가 있다.

해당 기술은 여러 입력 형태를 활용한 공격 시나리오를 통해 AI 모델의 민감 정보 노출 가능성을 사전에 진단하는 기술이다. 이 기술은 AI 모델 자체의 안전성 검증을 목적으로 하며, 'AI 보안 테스팅(AI Security Testing)'으로 보안 범위를 확대하는 의미를 가진다.

소프트프릭의 특허명은 'AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법'이다. 이 특허는 AI와 기업 시스템 사이의 프롬프트·시스템 행위를 보안정책 기반으로 통제하는 기술이다. 이는 AI 에이전트가 새로운 '시스템 사용자'이자 'API 소비자(API Consumer)' 역할을 하는 환경 변화에 대응한 것으로, 기업은 AI가 전달하는 프롬프트를 통제하고 접근 권한을 통제하며 데이터·시스템 이용 행위를 통제하고 추적할 수 있다.

소프트프릭은 API 관리·보안 분야의 축적을 보유하고 있으며, 인증·인가, 접근제어, 정책 집행 기술을 갖고 있다. 이를 바탕으로 API 게이트웨이에서 LLM 게이트웨이를 거쳐 AI 게이트웨이로 이어지는 차세대 게이트웨이 기술을 개발하고 있다.

소프트프릭은 AI를 활용한 보안 자동화 기술도 연구 중이다. 또 LLM 기반 보안 가이드라인을 분석한 뒤 취약점 점검 규칙·진단 스크립트를 자동 생성하는 기술을 특허 출원했다. 아울러 취약점 진단 솔루션 파바타(F-Avata)와의 연계도 추진하고 있다.

소프트프릭은 생성형 AI 모델 보호 기술 관련 특허 출원을 지속하고 있다. 특허 출원을 이어가고 있는 세부 기술로는 위험도별 보호 정책을 조정하는 보호 정책 조정 기술인 '위험도 기반 적응형 정책 오케스트레이션', 재학습 저항성을 강화하는 보호 기술인 '학습 전이 교란', 모델 출력물을 활용한 후속 모델의 재학습·증류·미세 조정을 추적하는 보호 기술인 '학습 전이형 워터마킹'이 있다.

소프트프릭은 기존 제품군과 AI 보안 기술을 결합할 계획이다. 기존 제품군은 API 게이트웨이, 취약점 진단 솔루션, 계정관리 및 접근제어 솔루션이다. 이를 바탕으로 'AI 보안 및 API 거버넌스(AI Security & API Governance)' 체계를 구축할 계획이다. 이 체계는 보안 업무 자동화, AI 모델 안전성 검증, AI 에이전트 접근·행위 통제, 생성형 AI 모델 보호를 포괄한다.

이 같은 계획의 배경으로 김동철 소프트프릭 대표는 공격자의 AI 활용으로 취약점 탐색·공격 자동화가 진행되고 있어 사람 중심 대응만으로는 공격 속도·규모를 추격하기 곤란하다고 밝혔다. 이어 방어 측에서도 AI를 적극 활용할 필요가 있으며, 기업이 사용하는 AI의 안전성을 검증하고 접근·행위를 통제할 필요가 있다고 설명했다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408035

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=408035