에임인텔리전스, 피지컬AI 안전 연구 위한 글로벌 컨소시엄 출범

에임인텔리전스(AIM Intelligence)는 17일 글로벌 피지컬 AI 안전 컨소시엄 '파스크(Physical AI Safety Consortium, PASC)'의 출범을 발표했다. 파스크는 로봇·자율 시스템 등 피지컬 AI 전반의 안전 문제를 연구하기 위한 글로벌 컨소시엄이다.

에임인텔리전스는 피지컬 AI가 실제 환경에서 작동하는 과정에서 현장 안전을 위협할 가능성이 있다는 점을 배경으로 파스크를 소집했다. 파스크 마련의 목적은 관련 위험을 사전에 식별하고 평가·통제하는 데 있다.

아울러 파스크 마련의 목적에는 피지컬 AI 안전의 정의를 정립하는 일과 평가 방법론·벤치마크·향후 표준화에 필요한 연구 기반을 구축하는 일도 포함된다. 파스크는 비영리 방식으로 운영되며 개인과 기관이 참여할 수 있다.

참여 방식은 연구·모델·하드웨어·컴퓨팅·데이터 등이다. 현재 PASC에는 30여 명의 연구자·산업계 실무자가 참여하고 있으며, 구글(Google)·마이크로소프트(Microsoft)·오라클(Oracle)·LG전자 등 소속 전문가와 국내외 대학 및 AI 안전 연구기관 연구진이 함께하고 있다.

PASC에는 구글 제니 니(Jenny Ni), 마이크로소프트·요크대학교 아드리안 데 윈터(Adrian de Wynter), 오라클 히테쉬 파텔(Hitesh Laxmichand Patel), 오라클 아밋 아가왈(Amit Agarwal), LG전자 장지용 상무, 한국인공지능안전연구소 김명주 소장, 미국 캘리포니아대학교(UC San Diego) 시쿤 가오(Sicun Gao) 교수, 위스콘신 대학교 쉐론 리(Sharon Li) 교수, 일리노이 대학교 야키 시에(Yaqi Xie) 교수가 주요 참여 인사로 참여한다.

이들이 함께 추진하는 PASC의 첫 공동 과제는 피지컬 AI 안전의 정의·평가 방향 관련 포지션 페이퍼를 준비하는 일이다. 이후에는 공동 평가 체계·벤치마크 설계, 운영 환경 대상 적대적 테스트, 시뮬레이션·실제 로봇 환경 포괄 검증 연구로 활동을 확대할 계획이다.

PASC는 피지컬 AI의 안전 인식을 일회성 판정이 아닌 지속적 관찰·갱신·개입의 대상으로 규정했다. 이에 따라 PASC는 위험의 충분한 정의 가능성, 개입 가능한 시점의 위험 징후 포착 가능성, 환경·로봇 형태 변화 후에도 평가 결과 유지 여부, 적응형 공격에 대한 안전 체계의 견고성을 연구 과제로 제시했다.

박하언 에임인텔리전스 CTO는 피지컬 AI의 현실 역할 확대에 따라 안전은 모델 성능과 분리해 설계·검증해야 할 핵심 기반이라고 밝혔다. 또한 그는 PASC를 학계·산업계 전문성을 연결하고, 피지컬 AI 안전의 공통 언어·검증 기반 형성의 장으로 만들겠다는 입장을 밝혔다.

에임인텔리전스는 지난 8일 AI 리스크 컨퍼런스에서 세션 발표를 진행했다. 세션 주제는 'AI 통제의 최전선: 모델에서 에이전트, 피지컬 AI까지'였으며, 에임인텔리전스는 발표에서 피지컬 AI 위험성을 전달하고 레드티밍·가드레일의 필요성을 강조했다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407155

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407155