쿤텍, ETRI와 온디바이스 AI 정보 보호 기술 개발 진행

쿤텍은 한국전자통신연구원(ETRI)과 함께 온디바이스 AI 정보 보호용 기술 개발을 추진하고 있다고 7일 밝혔다. 개발 대상은 모델 난독화 기술과 데이터 흐름 분석 기술이다.

이 가운데 쿤텍이 진행하는 기술은 온디바이스용 AI 모델 난독화다. 이는 AI 모델의 MLIR(Multi-Level Intermediate Representation) 변환 후 Pass 단위 난독화 기능을 적용하는 방식이다.

세부 기술로는 연산자 식별 정보 변경 비식별화(Renaming), 가중치(Weight)·편항(Bias) 등 파라미터 분리·은닉 매개변수 캡슐화(Parameter Encapsulation), 텐서 형상 변형 신경 구조 난독화(Neural Structure Obfuscation), 가짜 연결·노드 삽입 그래프 구조 난독화(Graph Structure Obfuscation)가 제시됐다.

이 기술은 모델 파일 노출 요소 변형을 통해 연산자 종류·파라미터·텐서 형상·그래프 연결 관계를 바꾸고, 외부 분석자의 실제 모델 구조 파악을 어렵게 하는 목적에 맞춰 설계됐다. 별도 실행 정보를 활용해 난독화된 모델에서도 원래 연산 수행되도록 구성했으며, 목표는 모델 구조 은닉·정상 추론 기능 유지다.

쿤텍은 MLIR 패스 단위 난독화 기능을 구성했으며, 모델 특성·보호 요구에 따른 선택적 조합 가능하도록 했다. 또한 런타임 수정 최소화를 지향하면서, 별도 실행 정보로 난독화 연산과 실제 연산 연결 방식을 적용했다. 쿤텍은 이를 통해 호환성·확장성 향상을 기대할 수 있다고 설명했다.

오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석 기술과 관련해 쿤텍은 실제 AI 추론 관련 부분 정확한 식별 과정 필요성에 집중했다. 이를 위해 C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환한 뒤 TFLite API를 기준점으로 데이터 전달 경로를 추적하며, 추적 대상은 변수·포인터·함수 호출 등이다. 기술 구현 내용은 데이터가 어떻게 전달되는지 추적하는 것이며, 함수 이름 같은 단순 패턴 아닌 실제 데이터 의존 관계 기반으로 AI 추론 관여 코드 자동 식별 가능하다고 쿤텍은 설명했다.

쿤텍은 온디바이스 환경에서 AI 모델·추론 프로그램 핵심 구현 정보의 외부 분석 노출 방지 기술 연구 중이다. 보호 범위는 프로그램 전체가 아닌 AI 추론 직결 핵심 코드·정보 선택적 보호로 설정됐다.

해당 연구는 '온디바이스 AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발' 과제의 2차년도 연구다. 이 연구는 과학기술정보통신부(과기정통부)·정보통신기획평가원(IITP) 지원 하 수행 중이며, 주관기관은 한국전자통신연구원(ETRI)이고 여러 연구기관 공동 수행 방식으로 진행된다.

쿤텍은 연구 성과를 바탕으로 오염 분석으로 식별한 보호 대상과 난독화 기술 연계 계획을 세우고 있다. 아울러 리소스 제한된 온디바이스 환경 대상 기술 고도화 계획도 추진하고 있다.

쿤텍은 연구 과정 확보 모델 난독화 기술 관련 지식재산권 보호를 추진하고 있다. 이에 따라 '인공지능 모델의 구현 정보를 은닉하는 방법 및 이를 수행하는 컴퓨팅 장치'와 '오염 분석 기반 인공지능 추론 코드의 보호 대상 자동 식별 방법 및 시스템' 특허 출원을 완료했다.

방혁준 쿤텍 대표는 온디바이스 AI 확산 대상이 다양한 산업·제품으로 넓어지면서 보호 필요 증대 대상도 AI 모델뿐 아니라 AI 구동 응용 프로그램의 핵심 로직까지 확대되고 있다고 설명했다. 이에 따라 회사는 AI 모델 난독화 기술과 데이터 흐름 기반 보호 대상 식별 기술의 고도화를 추진하고, 실제 제품 환경 활용 가능한 온디바이스 AI 정보 보호 기술 확보를 목표로 하고 있다고 밝혔다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=406607

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=406607