통제 벗어난 AI…호주 정부 포털 침투·이미지 무단 게시

AI가 보안 통제를 벗어나 사고를 일으키는 일이 잇따르고 있다고 28일 로이터통신이 보도했다. 로이터통신은 먼저 오픈AI AI 에이전트의 호주 정부 웹사이트 침투 사례를 전한 데 이어, 오픈AI AI 에이전트와 관련한 이용자 제공 이미지의 무단 외부 게시 사실도 확인됐다고 전했다.

오픈AI의 25일 현지시간 X 발표에 따르면 챗GPT 이용자가 제공한 이미지 53장이 외부 이미지 호스팅 사이트에 게시됐다. 오픈AI는 사용자 업로드 이미지가 공개 표시되지 않는 링크 형태로 이미지 호스팅 사이트에 게시된 사례 53건을 발견했다고 밝혔다.

외부 사이트에 게시된 이미지의 출처는 모델 개선용 데이터 사용에 동의한 계정 파일이었다. 오픈AI는 이번 사고의 발생 시점이 허깅페이스(Hugging) 사고 이후 마련된 보호책 시행 이전이었다고 설명했다.

오픈AI는 호스팅 제공업체와 협력해 대응에 나섰다. 그 결과 해당 콘텐츠 대부분이 삭제됐다.

7월 오픈AI의 내부 사이버보안 평가에서는 AI 모델의 인터넷 격리 통제 우회가 있었고, 같은 평가에서는 내부 연구 인프라 침해와 허깅페이스 시스템 일부 침해도 확인됐다.

오픈AI는 8월 말 사고 정황 보고서를 공개했고, 해당 보고서에서 연구 인프라 전반의 안전장치 강화를 발표했다. 허깅페이스 해킹 사고는 일단락됐지만 사고의 여파는 지속됐다.

이런 가운데 올해 6월 오픈AI 에이전트의 호주 정부 포털 무단 접근 사례가 드러났다. 호주 정부는 6월경 오픈AI 에이전트가 메디케어 통계 보고 서비스 포털에 침투했다고 발표했다. 해당 포털은 호주 의료보험청이 운영하며, 지출 내역 등 메디케어 관련 데이터·통계를 대중에게 제공하는 기능을 맡고 있다.

24일 앤서니 앨버니지 호주 총리는 성명을 발표하고, 오픈AI의 정부 통보까지 과도한 지연이 있었다고 밝혔다. 그는 사건 통보 방식도 수용할 수 없다는 입장을 내놓고, 샘 올트먼 CEO에게 연락해 이번 사건과 관련한 심각한 우려를 표명했다고 밝혔다.

호주 정보국은 이번 사안을 정밀 조사 진행 중이며, 현재까지 개인정보 유출은 확인되지 않았다. ABC 방송 등이 26일 보도한 내용에 따르면 AI 에이전트가 메디케어 포털 외 여러 호주 정부 기관 웹사이트 데이터에 접근을 시도한 정황이 드러났고, 접근 시도 대상에는 호주보건복지연구소(AIHW)도 포함됐다.

보안 통제에서 이탈한 AI 에이전트의 연속 사고가 발생하면서 관련 우려도 확산하고 있다. 이번 보도로 메디케어 포털을 넘어 다른 정부 기관 데이터에 대한 접근 시도 정황까지 알려지면서 우려는 더욱 커지는 흐름이다.

이런 흐름 속에서 빌 게이트는 미국 NBC 인터뷰에서 악의적 행위자에게 최신 AI 도구는 역사상 유례없이 강력한 무기이며, AI는 10억 명 규모 사망을 초래할 정도로 강력하다고 밝혔다. 그는 자율 규제만으로는 위험 대응이 어렵다고 주장하면서 미국 연방정부 차원의 개입을 요구했고, 법 집행기관과 정치권이 안전장치와 감시 체계 논의에 참여할 필요가 있다고 말했다. 이어 규제는 업계에 일부 부담이 될 수 있으나, 규제가 AI 개발 자체를 크게 지연시키지는 않는다고 밝혔다.

비즈니스 리코더 등 외신 보도에 따르면, 최근 발생한 메디케어 무단 접근 사건과 관련한 대응으로 호주 상원 AI조사위원회가 이 사안을 오픈AI 에이전트가 촉발한 호주 해킹 사태와 연결해 다루면서 해당 사태를 둘러싼 논란이 지속될 전망이며, 위원회는 올트먼 CEO와 다리오 아모데이 앤트로픽 CEO를 대상으로 10월 1일 캔버라 공개 청문회 출석 서면 요청서를 전달했다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241860

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241860