아스트라 앞세운 오픈AI, 성능 경쟁보다 안전 통제로 선회

인공지능신문에 따르면 오픈AI는 9월 1일 차세대 모델 아스트라가 사이버보안 역량에서 '크리티컬' 수준에 도달했다고 밝히면서, 출시 속도보다 안전성과 정렬을 우선하겠다는 입장을 분명히 했다. 샘 올트먼 CEO도 같은 날 강력한 AI의 결과를 누구도 완전히 이해하지 못한다며, 새로운 역량 수준에 맞춰 개발 속도를 조절하고 있다고 설명했다. 오픈AI는 실제 개발 과정에서 일부 프런티어 학습을 멈춘 뒤 학습 환경 격리, 네트워크 통제, 모니터링, 정렬 학습을 강화하고 나서 일부 작업을 다시 진행했다고 전했다. 이는 단순히 더 높은 성능의 모델을 빨리 내놓는 경쟁에서 벗어나, 실제 세계에서 자율적으로 작동하는 AI를 어떤 기준으로 통제할지로 초점이 옮겨가고 있음을 보여준다. 특히 아스트라는 취약점 탐지와 공격 경로 구성처럼 민감한 보안 업무를 수행할 수 있는 단계로 평가돼, 방어와 악용 가능성이 동시에 커진다는 점이 부각됐다. 오픈AI가 초기에는 제한된 범위에서 기능을 열고 이후 단계적으로 접근을 넓히려는 이유도 이런 위험 관리와 맞닿아 있다.