카카오, 자율 에이전트 시대 ‘AI 윤리 원칙’ 공개

카카오는 자율 에이전트 확산에 대응하기 위해 AI 윤리 원칙과 이행 체계를 마련했다. 적용 범위는 AI 서비스 기획부터 운영까지다.

카카오는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 '이프 카카오(if(kakao)26)'에서 AI 윤리 원칙 'SPIRIT', 실행 방식 'NORMA', AI 윤리 이행 체크리스트를 공개했다.

SPIRIT은 6개 원칙으로 구성됐다. 6개 원칙은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness)이다. SPIRIT은 '대한민국 인공지능 윤리원칙'의 3대 가치·7대 원칙을 기준으로 했으며, 카카오는 서비스 환경에 맞춰 세부 내용을 보완했다.

카카오는 윤리 원칙을 실제 서비스에 적용하기 위한 실행 방식으로 NORMA(Navigating, Organizational, Responsibility, Manageable, Actionable)를 정했다고 밝혔다. 이는 복잡한 윤리 과제를 조직 공동 책임으로 다루고, 이를 관리 가능한 항목과 실행 단계로 구체화하기 위한 취지라고 설명했다.

이번 원칙과 가이드는 이달 초 마련됐다. 이 과정에는 지난 7월 출범한 AI&기술윤리소위원회의 외부 자문단 7명이 참여해 국내외 규범 정합성을 검토했고, AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 참여했다.

카카오는 자율 에이전트 리스크 관리를 통제 주도권·목표·권한·참조 자원·상호작용의 5개 영역으로 구분한다고 밝혔다. 또한 각 영역에는 인간 감독·비상 제어·권한 통제·데이터 보호의 통제 항목을 연계하는 방식으로 관리한다고 설명했다.

카카오는 2018년 '알고리즘 윤리헌장'을 발표한 뒤 AI 윤리 체계를 단계적으로 확대해 왔다. 2022년에는 카카오와 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했고, 이후 책임 있는 AI 가이드라인과 이용자 주체성 원칙, 안전한 AI를 위한 핵심 체크리스트를 도입했다. 이런 기존의 확장해 온 AI 윤리 체계를 바탕으로 카카오는 새 AI 윤리 이행 체크리스트를 마련했다.

AI 윤리 이행 체크리스트의 구성·운영은 3단계로 이뤄진다. 3단계는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정이다. 카카오는 새 체크리스트를 연내 서비스 개발·운영 과정에 적용할 계획이다.

카카오는 동시에 아동·청소년 보호 점검도 강화한다. 2025년부터 '디지털 아동·청소년 보호 체크리스트'를 운영하고 있으며, OECD·유니세프의 아동 온라인 리스크 분류 체계 '5Cs'를 참고해 AI 관련 점검 항목을 새 체크리스트에 반영할 예정이다. 이를 통해 기존 보호 체크리스트 운영에 더해 아동·청소년 보호 점검을 강화한다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 AI 서비스 전 주기 작동 리스크 검토 체계가 외부 자문단·내부 조직 관점을 반영해 구축됐다고 설명했다. 이어 김세웅 위원장은 AI 자율성 확대를 언급하며 사람의 판단·책임을 명확히 하는 방침 아래 이용자 안심 사용 가능한 AI 서비스를 구축하겠다는 의지를 밝혔다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408255

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=408255