오픈AI, 최고위험 보안 AI 공개 앞두고 통제 강화

인공지능신문에 따르면 오픈AI는 9월 1일 차세대 모델 아스트라가 자사 준비 프레임워크상 최고 단계인 크리티컬 수준의 사이버보안 역량에 도달했다고 밝혔다. 공개 평가에서는 익스플로잇 개발 능력에서 100%를 기록했고, 이에 맞춰 출시 과정에서 고급 보안 기능 접근을 제한하는 별도 통제를 적용하기로 했다. 오픈AI가 자사 모델을 이 단계로 분류한 것은 처음이다. 회사는 취약점 탐지와 공격 가능성 검증이 크게 강화된 만큼 악용과 비인가 행동을 막는 다층 안전장치를 함께 마련했다고 설명했다. 정상적인 방어 활동까지 제약할 수 있다는 점은 인정하면서도, 모델 감시와 학습 인프라 보강까지 포함한 대응 체계를 내세웠다. 출시 초기에는 소수 테스터를 중심으로 제한적으로 제공한 뒤 방어 목적 활용 범위를 점차 넓히겠다는 구상이다.