케임브리지, AI 에이전트 신뢰를 암호학으로 푼다

인공지능신문에 따르면 영국 케임브리지대는 10월 7일 AI 에이전트끼리 서로를 믿지 않아도 상대 주장과 현실의 사실을 검증할 수 있는 암호학적 신뢰 인프라 센터를 출범시켰다. 이 센터에는 초기 연구비 240만 파운드가 투입되며, 핵심은 민감한 데이터를 드러내지 않고도 사실 여부를 입증하는 영지식증명 연구다. 기사에 따르면 이는 AI 에이전트가 기업 간 거래와 협상을 직접 맡는 환경에서, 기존처럼 사람이나 제3기관에 의존해 신뢰를 확인하기 어려워지는 문제를 겨냥한다. 연구진은 디지털 기록뿐 아니라 탄소배출이나 생산공정처럼 물리적 세계의 주장까지 여러 출처의 검증 가능한 데이터로 묶어 증명하는 방식을 구상한다. 또 에이전트가 어떤 추가 증거가 필요한지와 그 비용 대비 효용을 스스로 판단하게 하는 구조도 함께 연구한다. 케임브리지는 이와 함께 AI용 프라이버시 기술과 로봇 제어 인증까지 묶어, 평판이 아니라 검증 가능한 증거를 기반으로 한 AI 신뢰 체계를 넓히려 한다.