AI ‘도구’ 넘어 ‘정서적 교감 대상’으로…과의존 대응책 마련 필요

생성형 인공지능(AI)이 확산하면서 기존의 물리적 안전을 넘는 새 위험으로 정서적 의존 등이 제기되고 있다.

박형빈 서울교대 교수는 10일 서울 여의도 국회의원회관에서 열린 '생성 AI 시대 시민의 정신건강과 AI 리터러시 정책 과제' 포럼에서 관련 내용을 강조했다.

박 교수는 AI 기술 발전의 안전 문제를 물리적 위험으로만 한정하면 안 된다고 밝혔다. 이어 이용자의 생성형 AI와의 지속적 대화가 이뤄지면서 이용자와 생성형 AI의 정서적 관계 형성이 시작되고 있다고 설명했다.

박 교수는 정서적 영향과 인지적 의존, 사회성 변화 등을 함께 살펴봐야 한다고 설명하면서 취약계층을 대상으로 한 안전장치가 필요하다고 제언했다. 사진은 박형빈 서울교대 교수가 발표하는 모습. 사진은 양승갑 기자가 촬영했다.

생성형 AI의 과의존 양상은 기존의 게임·영상 콘텐츠 과몰입과 차이가 있을 수 있다는 지적이 나온다. 이용자의 발화에 반응하고 공감하는 듯한 상호작용이 지속되기 때문이며, 이에 따라 생성형 AI에 대한 인식이 단순한 도구가 아니라 하나의 '관계'로 바뀔 가능성도 제기된다. 박 교수는 새벽 3시에는 친한 친구에게 전화를 걸기 어렵지만 생성형 AI는 늘 대기하고 짜증도 내지 않는다고 설명했다.

박 교수는 이런 특성의 문제점으로 사람과의 교류를 AI가 대체하는 경우가 많다는 점을 들었다. 이어 그는 사후 대응에 앞서 사전 위험을 낮출 수 있는 안전장치가 필요하다고 주장했다.

박 교수에 따르면 해외 주요국에서는 AI·온라인 플랫폼과 관련한 논의가 단순한 '규제 여부'의 단계를 넘어서는 방향으로 세분화되고 있다. 구체적으로는 연령확인 기준을 구체화하는 방안과 연령 적합 서비스 설계, 자살·자해 등 위기상황 대응 의무 등이 논의의 세부 항목으로 제시된다.

해당 제언은 국내 제도 보완 과제를 정리한 내용으로, 과제로는 정서교감형 AI 안전기준 법제화, 연령확인·연령적합설계 체계 구축, AI 리터러시 국가표준 수립, 신경데이터 보호 및 신경권 규율 등 4가지가 제시됐다.

특히 정서교감형 AI에 대해서는 별도 정의가 필요하고, 정서교감형 AI 특성에 맞춘 안전기준 마련이 필요하다는 방향이 제시됐다. 이와 함께 자살·자해 위험 감지 시 대응 프로토콜이 필요하고, AI가 비인격적 존재라는 점을 이용자에게 고지하는 장치도 필요하다고 제언했다. 또 이용자 감정 자극을 통한 서비스 이용 유도형 다크패턴 제한과 미성년자 보호 장치 강화도 제안됐다.

박 교수는 아이들이 뇌 발달 중인 취약계층이라는 점을 언급하며, 정서교감형 AI 안전기준은 현행보다 더 세밀하고 체계적으로 마련될 필요가 있다고 강조했다.

제안의 큰 흐름은 미성년자 보호와 AI 이용 역량 강화에 맞춰졌다. 이를 위해 연령확인 체계의 구체화가 필요하며, 직접 나이 입력 방식에는 한계가 있다는 지적이 나왔다. 아울러 개인정보 침해 최소화를 전제로 한 연령확인 체계 마련이 필요하다는 제언도 제시됐다.

이와 함께 미성년자 계정을 대상으로 높은 수준의 보호 설정을 기본 적용할 필요가 있다는 의견이 나왔다. 청소년에 대한 영향이 큰 서비스를 대상으로는 연령별 별도 안전설계도 필요하다고 제시됐다. 연령확인 방식은 개인정보 침해를 줄이면서 보호 설정과 안전설계로 이어져야 한다는 취지다.

교육 측면에서는 국가 차원의 AI 리터러시 기준 마련이 제언됐다. 학교 교육에는 딥페이크 판별, AI 생성물 표시, 정보 검증, AI와의 정서적 관계, 과의존 위험이 포함돼야 한다는 내용이 담겼다. 박 교수는 AI 리터러시 교육이 학부모를 포함한 전 연령층에 필요하며, 모든 사람의 교육·자기보호 가능성을 위한 제도화가 필요하다고 밝혔다.

또한 뇌-컴퓨터 인터페이스(BCI)와 AI의 결합에 대비할 필요가 있다는 지적도 나왔다. 신경기술 발전에 따라 개인 뇌 신호를 기반으로 생각·정신 상태를 추론할 가능성이 확대되고 있는 만큼, 신경데이터 보호 체계 관련 제도와 신경권 관련 제도적 논의가 필요하다고 제시됐다. 이와 함께 정보 수집·이용·접근 범위에 대한 제도적 검토도 필요하다는 의견이 나왔다.

박형빈 서울교대 교수는 새로운 기술을 배제하는 방향보다 안전하게 사용할 수 있는 조건을 마련하는 접근이 중요하다고 강조했다. 그는 생성형 AI·뇌-컴퓨터 인터페이스에 대해서도 사용 조건과 설계를 검토할 필요가 있다고 강조했다.

이날 토론에 참여한 정부 관계자들도 AI 안전과 이용자 보호를 위한 제도 보완의 필요성에 공감했다. 현장에서는 관련 논의가 제도적 대응 방향으로 이어졌다.

정준욱 과학기술정보통신부 디지털포용정책 팀장은 AI 윤리규칙에 기반한 연령별 가이드라인 마련이 필요하다고 언급했다. 그는 연령별 가이드라인을 예방교육과 전문상담에 활용할 예정이라고 밝혔다.

정준욱 과학기술정보통신부 디지털포용정책 팀장은 전문가들과 함께 연령별 가이드라인을 만들어갈 계획이라고 밝혔다. 사진 속 인물은 김주영 교육부 인공지능교육진흥과 과장, 박형빈 서울교대 교수, 정준욱 과학기술정보통신부 디지털포용정책 팀장, 김혜숙 방송미디어통신위원회 인공지능이용자보호과 과장이며, 사진 표기는 양승갑 기자다.

김혜숙 방송미디어통신위원회 인공지능이용자보호과 과장은 AI 서비스의 긍정적 특성이 상황에 따라 역기능으로 전환될 수 있다고 지적하며, 동조·마찰 없는 이용으로 평가되던 요소들도 역기능 가능성이 있다고 밝혔다. 이어 장점을 유지하면서 역기능을 보완하기 위한 제도 마련이 필요하다고 말했다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241528

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241528