에이아이딥, 생성형 AI 실행 전과정 통합 관리 '필요'…보안 방안으로 '딥젠가드' 제시
테크월드뉴스 ·
✦ AI 요약
에이아이딥(AIDEEP)은 생성형 AI 활용과 관련한 보안 위협 4가지를 제시했다.
첫째는 권한 없는 정보 접근, 둘째는 개인정보·민감정보 유출, 셋째는 악의적 질문을 통한 보안 우회, 넷째는 사고 원인 확인의 어려움이다.
에이아이딥은 이러한 대응 수단으로 생성형 AI에 특화된 통합 보안 솔루션 딥젠가드(DeepGenGuard)를 제공하며, AI 입력 정보부터 생성 답변까지를 양방향으로 보호한다고 밝혔다.
기업의 개인정보보호 책임이 강화되는 추세 속에 기업의 생성형 AI 활용이 빠르게 확대되면서, 서비스 측면의 개인정보 관리 방안이 중요 과제로 떠오르고 있다. 이러한 흐름에 맞춰 에이아이딥(AIDEEP)은 생성형 AI 활용과 관련한 보안 위협 4가지를 제시했다.
에이아이딥(AIDEEP)이 제시한 첫 번째 보안 위협은 권한 없는 정보 접근이다. 접근 권한이 없는 기밀문서도 AI 검색을 통해 조회될 가능성이 있다는 설명이다. 두 번째 보안 위협은 개인정보·민감정보 유출이다. 질문, 첨부파일, AI 답변의 경로에서 개인정보가 노출될 가능성이 있다고 봤다.
세 번째 보안 위협은 악의적 질문을 통한 보안 우회다. 에이아이딥(AIDEEP)은 조작된 질문(Prompt Injection, 탈옥)으로 보안 정책이 무력화될 가능성이 있고, 이를 통한 정보 탈취 시도도 가능하다고 제시했다. 네 번째 보안 위협은 사고 원인 확인의 어려움이다. 답변의 출처를 확인하기 어렵고 처리 과정도 확인하기 어려워 사고가 발생할 경우 원인 파악이 제한된다고 설명했다.
AI 보안은 답변 결과를 점검하는 것만으로는 충분하지 않습니다. AI 전과정을 관리할 수 있는 솔루션이 필요합니다.
AI 활용 범위가 확대됨에 따라 운영 환경을 관리하는 체계가 필요합니다. 운영 환경에 적용하는 대상의 기준은 신뢰 가능한 데이터와 검증된 구성요소입니다.
이러한 대응 수단으로 에이아이딥은 딥젠가드(DeepGenGuard)를 제공합니다. 딥젠가드는 생성형 AI에 특화된 통합 보안 솔루션입니다.
딥젠가드는 AI 입력 정보부터 생성 답변까지를 보호 범위로 삼습니다. 보호 방식은 양방향 보호입니다.
출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407892
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 테크월드뉴스
원문 확인이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.