소프트프릭, AI 프라이버시 진단·에이전트 통제 특허 2건 등록

소프트프릭은 12일 특허 2건을 등록했다고 밝혔다. 이번 등록 특허는 생성형 AI·AI 에이전트 도입에 따른 보안 위협에 대응하기 위해 개발됐다. 특허 분야는 멀티모달 AI 모델 프라이버시 취약점 진단 기술과 AI 게이트웨이 보안 제어 기술이다.

등록 특허명은 '인공지능 모델의 프라이버시 취약점 진단을 위한 멀티모달 공격 방법'과 'AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법'이다.

이 가운데 '인공지능 모델의 프라이버시 취약점 진단을 위한 멀티모달 공격 방법'은 소프트프릭이 지난해 출원한 AI 프라이버시 취약점 진단 특허 5건 중 1건이다.

멀티모달 AI는 텍스트 기반 공격만으로는 취약점 확인이 어렵다. 해당 기술은 여러 입력 형태를 활용한 공격 시나리오로 AI 모델의 민감 정보 노출 가능성을 사전 진단하는 기술이다.

소프트프릭은 특허 명칭이 'AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법'인 기술을 통해 기업 환경에서 AI와 기업 시스템 사이의 프롬프트·시스템 행위를 보안정책 기반으로 통제하는 기술을 다루고 있다. 이 기술은 AI 에이전트와 관련한 프롬프트·접근 권한·행위를 통제하고 추적하는 기능을 갖는다.

소프트프릭은 API 관리·보안 분야의 인증·인가·접근제어·정책 집행 기술 축적을 기반 역량으로 삼아 LLM 게이트웨이·AI 게이트웨이용 기술을 개발하고 있다. 또 특허 출원 기술로 LLM으로 보안 가이드라인을 분석해 취약점 점검 규칙·진단 스크립트를 자동 생성하는 기술을 추진하고 있으며, 이를 취약점 진단 솔루션 파바타(F-Avata)와 연계하는 방안도 추진하고 있다.

이 같은 흐름의 배경에 대해 김동철 소프트프릭 대표는 공격자의 AI 활용으로 취약점 탐색·공격 자동화가 진전되면서 사람 중심 대응만으로는 속도·규모 대응에 한계가 있다고 밝혔다. 이어 방어 측의 AI 활용이 필요하며, 기업이 사용하는 AI의 안전성 검증과 접근·행위 통제가 필요하다고 설명했다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=242111

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=242111