국가AI전략위, ‘AI 개발 속도조절론’ 논의…프론티어 역량·안전 병행

글로벌 AI 개발 속도 논쟁이 확산하면서 국내에서도 논의가 본격화됐다. 쟁점은 프론티어 AI 경쟁력 확보·안전·보안·통제 역량을 동시에 확보하는 데 있다.

국가인공지능전략위원회는 이런 배경에서 1일 오후 'AI 개발 속도조절론' 세미나를 개최했다. 세미나에서는 국내외 AI 개발 속도 논쟁과 한국 대응 방향을 논의했다.

이번 행사는 주요 AI 기업·국가·국제기구 간 기술 개발 속도와 안전 규범 관련 입장 차이 속에서 국내 정책 방향을 모색하는 데 목적을 뒀다. 국가인공지능전략위원회는 이를 통해 국제적 입장 차이를 점검하고 한국의 정책 대응 방향을 살폈다.

이날 세미나에는 국가AI전략위원회 위원과 과학기술정보통신부, 개인정보보호위원회, AI안전연구소, 한국인터넷진흥원(KISA), 정보통신정책연구원(KISDI), 소프트웨어정책연구소(SPRi) 등이 참석했다. 유관기관 관계자를 포함한 참석 규모는 70여 명이었다.

1부에서는 프론티어 AI 개발 속도 논쟁·국내 대응 전략을 주제로 전문가 발제가 진행됐다. 전문가들은 프론티어 AI를 둘러싼 개발 속도와 안전 대응을 함께 논의했다.

이원태 국가AI전략위원회 보안특별위원회 위원장은 주요국 대응 방향을 소개했다. 이어 한국에 필요한 방향으로 프론티어 AI 개발 역량·안전·보안·통제 역량을 동시에 높여야 한다는 점을 제시했고, '속도 책임론'이 필요하다고 강조했다.

최대선 숭실대 AI안전성연구센터장은 기존 고영향 AI 관리 체계와 연산량 중심 첨단 AI 관리 체계만으로는 프론티어 AI 위험 대응에 한계가 있다고 지적했다. 그는 프론티어 AI 위험의 특성으로 범용성 확대·예측 불가능성 증대를 들며, 기술 발전에 맞춘 안전 평가·통제 관련 기술적 대응 방안과 제도적 대응 방안을 병행 검토할 필요가 있다고 설명했다. 김성훈 업스테이지 대표는 AI가 초지능을 넘어 스스로 성능을 개선하는 단계로 진화 중이라고 언급했다. 또 국내 개발 속도를 선제적으로 둔화할 경우 글로벌 빅테크와의 기술 격차가 확대될 가능성을 제기하면서, 기술 역량 확보와 안전장치 마련을 병행해야 한다고 주장했다.

이한울 에임인텔리전스 부사장은 국내 AI 보안 역량과 기업 대응 현황을 기반으로 독립적 모델 평가·통제 능력을 확보할 필요가 있다고 제언했다. 그는 국내 평가 역량 강화와 프론티어 AI 안전 국제 공조를 병행 추진해야 한다는 입장을 밝혔다.

이어진 패널 토론에는 김명주 AI안전연구소 소장과 김동환 포티투마루 대표가 추가 참여했으며, 기술 경쟁과 안전을 함께 고려한 대응 방안이 주제로 다뤄졌다. 패널들은 국내 AI 경쟁력 확보 지원책, 첨단 AI 위험 평가·통제, 안전 검증 체계, 기업 부담을 고려한 정책 설계를 주요 의제로 논의했다.

김 대표는 기술 발전 속도가 제도·윤리적 합의보다 빠른 상황이라고 밝혔다. 그는 일률적 개발 속도 제한보다 산업 육성과 안전장치 마련을 병행해야 한다고 제안했으며, 특정 기업·국가 중심 규범을 피하기 위해 국제기구를 통한 다자 협력 강화를 설명했다. 또한 위험 수준별 관리 강도 차등 체계가 필요하다고 설명했다.

공공·산업 현장에 AI를 넓게 활용하기에 앞서 환각 제어, 데이터 유출 방지와 같은 선제적 기술 안전장치를 적용할 필요가 있다는 의견이 제시됐다. 이어 안전장치를 기반으로 AI의 행동을 평가·통제하는 체계를 마련할 필요가 있으며, 이러한 체계를 마련한 뒤에는 에이전틱 AI의 활용 범위를 확대할 필요가 있다는 흐름이 제시됐다.

하정우 국가AI전략위원회 상근 부위원장은 글로벌 AI 핵심 공급망 확보와 AI 3강 도약을 위해 안전한 프론티어 AI 역량 확보가 필수라고 밝혔다. 또 위원회가 구심점이 되어 범정부 정책 조율 지원을 추진하겠다고 했으며, 기술 추격과 선제적 보안 대응의 균형을 추진하겠다는 방침도 밝혔다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407687

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407687