아모데이, AI 속도조절론 꺼내며 검증 체계 전환 촉구

인공지능신문에 따르면 앤트로픽의 다리오 아모데이 CEO는 9월 12일 AI 성능 향상 속도를 그대로 두면 안전성 연구와 검증이 따라가지 못한다며 개발 속도 조절을 공개 제안했다. 그는 특히 앞으로 6~12개월 안에 통제에 실패한 AI 에이전트 군집이 더 큰 피해를 낳을 수 있다고 보고, 개발 중단이 아니라 검증 가능한 속도로의 조정을 요구했다. 핵심은 프런티어 AI 개발을 멈추지 않되 외부 평가자가 기업 내부 과정까지 들여다보는 체계를 먼저 깔자는 데 있다. 이어 기업 간 공동 안전 기준과 국가 간 공조로 논의를 넓혀야 한다고 봤다. 재귀적 자기개선처럼 AI가 다음 세대 AI 개발에 관여하는 흐름이 빨라질수록 인간의 이해와 통제가 뒤처질 수 있다는 점도 주요 근거로 들었다. 결국 AI 안전의 기준을 기업의 자체 설명에서 제3자 검증으로 옮기려는 문제 제기라는 점이 이번 제안의 무게를 키운다.