딥브레인AI, 생성 전후 막는 통합 안전엔진 출시
인공지능신문 ·
✦ AI 요약
생성 전 입력부터 생성 후 결과물까지 이중 검사… 판정 실패 시 자동 차단
인공지능신문에 따르면 딥브레인AI는 10월 12일 인물 도용 판별과 유해 입력 차단, 딥페이크 판별을 한데 묶은 생성형 AI 안전 엔진 'AI 가드' 개발을 마치고 공급에 들어갔다고 밝혔다. 핵심 성능 시험에서는 합성 여부 판별 정확도 96%를 기록했고, 기능은 총 10종 API로 제공된다. 이 제품은 프롬프트와 참조 이미지를 먼저 걸러낸 뒤 생성된 이미지와 영상까지 다시 확인하는 방식으로, 콘텐츠 생성 전후를 함께 관리하는 데 초점을 맞췄다. 처리 중 오류나 시간 초과가 나면 요청을 그냥 통과시키지 않고 안전하지 않은 것으로 보고 차단하도록 설계한 점도 특징이다. 기존 탐지 도구가 결과물 판별에 집중했다면, 이번에는 생성 과정 전반으로 적용 범위를 넓혀 악용 가능성을 줄이려는 시도라는 설명이다. 고객사 내부 인프라에서 외부 API 호출 없이 운영할 수 있게 해 보안 요구가 큰 기업과 기관 현장에 맞춘 점도 눈길을 끈다.
관점
이 사안의 의미는 안전 기능이 생성형 AI의 부가 요소가 아니라 도입과 운영을 좌우하는 기본 인프라로 옮겨가고 있다는 데 있다. 특히 생성 전후를 함께 보는 구조와 오류 시 차단 원칙은 현장에서 책임 경계를 더 보수적으로 바꾸는 신호로 읽힌다. 결국 경쟁 포인트도 단순한 생성 성능을 넘어, 얼마나 일관된 통제 체계를 서비스 안에 심어 두느냐로 이동할 가능성이 크다.
이 관점은 비즈크러시가 작성한 자체 의견이며, 인공지능신문의 보도 내용과 무관합니다.
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 인공지능신문
원문 확인이 기사는 인공지능신문 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.