나델라, 초지능 경쟁보다 통제 분산 원칙 부각

인공지능신문에 따르면 사티아 나델라는 9월 14일 슈퍼인텔리전스가 인간 통제를 벗어나거나 인류에 도움이 되지 않는다면 추구할 가치가 없다고 밝히며, AI 주도권이 소수 기업에 집중되는 흐름에도 경고를 보냈다. 그는 개발 자체를 늦추자는 뜻이 아니라 안전과 정렬을 설계 단계에 넣고, 폐쇄형과 오픈소스가 함께 가는 생태계 속에서 기업이 자기 지식과 데이터를 스스로 통제해야 한다는 점을 함께 강조했다. 특히 기업이 외부 모델을 가져다 쓰는 데 머무르지 않고 자체 학습과 평가의 반복 구조를 갖춰야 한다고 봤다. 그래야 특정 공급자에 종속되지 않은 채 업무 지식과 암묵지를 모델에 계속 반영할 수 있다는 논리다. 또 AI의 안전성을 사후 장치가 아니라 처음부터 설계 목표로 삼고, 작동 과정에서 인간 의도와 맞는지 계속 점검하는 체계가 필요하다고 했다. 마이크로소프트도 이런 방향에 맞춰 행동강령 공개 협의를 준비하며, 성능 경쟁 못지않게 누가 AI의 학습 방향과 평가 기준을 쥐는지가 중요해졌다는 메시지를 내놓았다.