앤트로픽, 내부 상주형 AI 안전평가 체계 시동

인공지능신문에 따르면 앤트로픽은 9월 18일 액센추어와 손잡고 향후 5년간 각각 약 1조원씩 투입해, 외부 평가자가 회사 안에서 모델 개발과 배포를 들여다보는 AI 안전성 검증 체계를 만들겠다고 밝혔다. 이번 협력의 핵심은 사후 점검에 머물던 평가를 학습과 출시 전반으로 넓히는 데 있다. 독립 평가자는 내부 접근권한을 바탕으로 학습 과정과 의사결정, 안전장치 운영이 실제 기준대로 이뤄지는지 살피게 된다. 양사는 레드팀 테스트와 정렬 평가, 안전장치 검증을 함께 진행할 계획이다. 다만 어떤 정보까지 볼 수 있는지, 결과를 어떻게 공개할지 같은 공통 규칙은 아직 정립되지 않았다. 앤트로픽은 이를 기업 책임을 대신하는 장치가 아니라, 책임 이행을 더 검증 가능하게 만드는 실험으로 설명했다.