“AI 시대 문제는 확산 속도 못 쫓는 통제”…프라이빗AI, 전 구간 연결하는 비전 제시
테크월드뉴스 ·
✦ AI 요약
기업 내 AI 확산으로 단말·네트워크·프롬프트·모델까지 관리 범위가 넓어졌지만, 이를 다룰 통제 체계는 미비하다고 했다.
프라이빗AI는 4일 Tech Summit에서 AI 시대의 새로운 위험과 관리 전략을 제시하고, 흐름상의 각 영역을 단일 플랫폼으로 연결해 통제 공백을 해소하겠다고 밝혔다.
김영랑 대표이사는 AI 확산의 핵심 문제를 통제 체계가 속도를 따라가지 못하는 현실로 짚고, 엔드투엔드 통제 체계와 프라이빗 AI 플랫폼이 필요하다고 말했다.
기업 내 AI 확산에 따라 보안·통제 문제가 부상하고 있다. 특히 기업의 AI 활용 범위가 단순 검색·답변 생성에서 업무시스템 직접 실행으로 확대되면서 기업이 관리해야 할 위험 범위도 넓어지고 있다. 관리 대상 영역은 단말·네트워크·프롬프트·모델로 확대됐지만, 확대된 관리 영역을 다룰 통제 체계는 미비한 상황이다.
이런 가운데 프라이빗AI는 4일 Tech Summit을 개최했다. 이번 행사에서는 AI 시대 기업의 새로운 위험과 위험 관리 전략이 제시됐으며, 프라이빗AI는 AI 흐름상의 각 영역을 단일 플랫폼으로 연결해 통제 공백 해소를 추진하겠다는 방향을 밝혔다. 아울러 확대된 위험에 대응하기 위한 비전도 선포했다.
행사에서는 김영랑 프라이빗AI 대표이사가 '사람과 AI가 공존하는 시대, 우리는 어떠한 리스크르 대비해야 하는가'를 주제로 발표를 진행했다. 김영랑 대표이사는 기업이 관리해야 할 위험 범위가 확대된 상황을 설명하면서, AI 확산 자체는 문제가 아니라고 밝혔다. 다만 핵심 문제는 AI 통제 체계가 확산 속도를 따라가지 못하는 현실에 있다고 짚었다.
그는 겉으로는 사용자 관점의 1회 AI 요청으로 보이지만, 시스템 내부에서는 여러 차례 데이터 검색·모델 선택·비교·판단·API 및 도구 호출이 발생한다고 설명했다. 또 AI가 내부 문서·RAG뿐 아니라 ERP·CRM 등 업무시스템·외부 AI·클라우드까지 연결되면서 통제 대상·경로 복잡성이 지속 증가하고 있다고 밝혔다.
그는 이 같은 연결 확대로 데이터 접근권한·실행 관리의 공백이 발생한다고 말했다. 이어 이 통제 공백이 품질·신뢰성 저하로 연결되고, 비용 증가로도 이어지며, 결국 AI 확산 지연 또는 중단 가능성으로까지 이어질 수 있다고 설명했다.
그는 AI 활용의 빠른 확대 속에서 AI의 자유도 확대와 함께 실제 통제·책임 입증이 필요하다고 밝혔다. 아울러 공백 문제는 단순 기능추가로 해결 불가하며, 개별 보안 기능 추가만으로는 부족하다고 지적했다. 그러면서 AI 실행 전반 통합의 엔드투엔드 통제 체계가 필요하다고 강조했다.
프라이빗AI는 현재의 공백을 메우는 방식으로 사용자·데이터·모델·에이전트·도구·업무 실행 결과를 하나의 플랫폼에 연결하는 방안을 제시했다. 그는 이를 프라이빗 AI 플랫폼이라고 언급했다.
그는 데이터 보안·품질·신뢰·비용 효율·실행·운영·가치·성과 관련 5가지 위험을 단일 관리하면 AI 실행 전반에 대한 통합 통제가 가능하다고 설명했다. 프라이빗 AI 플랫폼은 리스크 인텔리전스·패킷고 OS(PacketGo OS)·프라이빗 워크스페이스로 구성된다. 리스크 인텔리전스는 위험 분석과 정책 결정 지원을 맡고, 패킷고 OS(PacketGo OS)는 접근·연결의 실제 집행을 담당하며, 프라이빗 워크스페이스는 사용자의 AI 업무 수행 공간 역할을 한다.
그는 프라이빗AI의 목적이 AI 제한이 아니라고 밝혔다. 또한 기업의 통제권 유지가 전제라고 설명했다. 이어 기업이 통제권을 유지한 채 AI에 더 많은 업무를 안전하게 맡기고 운영하도록 지원하는 것이 목적이라고 말했다.
출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=406545
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 테크월드뉴스
원문 확인이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.