아모데이, 안전 후퇴 비판에 실효성 개편 주장

인공지능신문에 따르면 앤트로픽의 다리오 아모데이 CEO는 10월 21일 AI 안전 정책 후퇴 비판에 맞서, 회사가 안전을 위해 사업 기회를 포기해 왔고 책임 있는 확장 정책 변경도 원칙 완화가 아니라 실효성을 높이기 위한 조정이라고 반박했다. 그는 지난 1년간의 선택을 근거로 들며 최첨단 경쟁에서 선두권을 유지해야 업계 전반의 안전 기준을 끌어올릴 수 있다고 설명했다. 논란의 핵심은 기업이 스스로 세운 안전 규칙을 바꿀 때 그것이 합리적 개선인지 책임 약화인지 어떻게 가려낼 수 있느냐다. 앤트로픽은 생물학적 안전장치 강화와 모델 공개 지연, 특정 국가 관련 서비스 제한 등을 통해 상업적 이익보다 위험 통제를 우선해 왔다고 주장했다. 또 기존 정책이 덜 중요한 절차를 요구하면서 정작 핵심 위험 대응은 부족했다며, 지금은 위험 보고와 로드맵 공개, 외부 검토를 강화하는 쪽으로 손봤다고 설명했다. 다만 정책 발표와 대외 소통 과정의 실수는 인정하며, 결국 이번 논쟁의 설득력은 투명성 확보와 독립 검증, 실제 위험 감소로 입증돼야 한다는 과제를 남겼다.