구테흐스, AI 생사 결정 차단과 국제 감독 촉구
인공지능신문 ·
✦ AI 요약
전쟁·불평등·기후변화·AI를 ‘권력의 4대 시험대’로 지목 “기술보다 책임 없는 기술이 위험”
인공지능신문에 따르면 안토니우 구테흐스 유엔 사무총장은 9월 22일 유엔총회에서 AI가 인간의 생사와 관련한 결정을 맡아서는 안 된다며 자율무기 규제와 국제 위험관리 체계 마련을 촉구했다. 그는 전쟁과 평화, 불평등, 기후변화, AI를 인류가 직면한 4대 시험대로 묶고, 기술보다 책임 없는 기술이 더 위험하다고 봤다. 특히 데이터와 컴퓨팅, 알고리즘에 권력이 집중되는 사이 인간의 통제와 관리 역량은 이를 따라가지 못하고 있다고 진단했다. 이에 따라 기술 개발과 배포 주체의 책임을 분명히 하고, 독립적 감독을 갖춘 다자간 틀을 서둘러 세워야 한다는 요구를 내놨다. 어린이가 규제되지 않은 시스템의 실험 대상이 돼서는 안 된다는 점도 함께 강조했다. 이번 발언은 AI 논의를 혁신 경쟁 차원에만 두지 않고, 국제 규범과 안보 질서의 문제로 끌어올렸다는 점에서 주목된다.
관점
이 사안은 AI를 단순한 산업 기술이 아니라 통제와 책임의 문제로 다시 묶어 세운다는 데 의미가 있다. 특히 생사 결정과 자율무기 문제를 전면에 놓으면서, 앞으로의 경쟁은 성능을 얼마나 빠르게 높이느냐뿐 아니라 누가 어떤 감독 아래 배치하느냐로 옮겨갈 가능성을 보여준다. 결국 관련 논의의 기준점이 개발 속도에서 거버넌스의 정당성으로 이동하면, 업계와 각국 모두 기술 공개와 활용 방식에 대한 설명 책임을 더 무겁게 떠안게 된다.
이 관점은 비즈크러시가 작성한 자체 의견이며, 인공지능신문의 보도 내용과 무관합니다.
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 인공지능신문
원문 확인이 기사는 인공지능신문 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.