카카오-인공지능안전연구소, AI 안전성 평가 체계 공동 구축
테크월드뉴스 ·
✦ AI 요약
카카오는 인공지능안전연구소와 AI 모델·에이전트 안전성 검증용 공동 평가 체계 구축을 추진한다.
양사는 28일 전략적 업무협약(MOU)을 체결하고 AI 안전성 공동 평가와 평가 체계 구축을 위한 협력을 시작했다.
평가 범위는 언어모델에서 멀티모달 모델·AI 에이전트로 확대되며, 카카오는 인프라를 지원하고 인공지능안전연구소는 평가 수행과 방법론 고도화를 맡는다.
카카오가 인공지능안전연구소와 AI 모델·에이전트 안전성 검증용 공동 평가 체계 구축을 추진한다고 발표했다. 카카오와 인공지능안전연구소는 지난 28일 전략적 업무협약(MOU)을 체결했다. 협약의 목적은 AI 안전성 공동 평가 및 평가 체계 구축이다.
양사는 이번 협력을 통해 AI 모델 잠재 위험의 사전 식별·검증이 가능한 평가 기반을 마련하기로 했다. 카카오와 인공지능안전연구소는 지난해 언어모델 '카나나(Kanana)-1.5-9.8B'의 공동 안전성 평가를 진행한 바 있다.
이번 협약으로 평가 범위는 언어모델 중심에서 멀티모달 모델·AI 에이전트로 확대된다. 카카오는 자사 AI 모델·에이전트를 제공하고, 평가 수행과 도구 개발에 필요한 인프라를 지원한다.
인공지능안전연구소는 평가 수행과 방법론 고도화를 담당한다. 양사는 결과를 공동으로 검토하고 공개 범위를 협의할 예정이다.
이번 협력은 3단계로 진행된다. 1단계에서는 언어모델을 대상으로 배포 전·후 안전성 평가를 실시한다. 2단계에서는 평가 대상을 멀티모달 언어모델·AI 에이전트로 확대한다. 3단계에서는 모델·에이전트 안전성 효율 검증용 평가도구를 공동 개발할 계획이다.
카카오는 에이전트 활용 확대 상황을 고려해 이번 협력을 통해 외부 전문기관이 참여하는 평가 체계를 강화할 방침이다. 또 이를 바탕으로 모델 개발·서비스 적용 과정 전반에서 안전성 검증을 지속할 방침이다. 평가 범위도 모델 자체뿐 아니라 실제 작업 수행 과정에서 발생할 가능성이 있는 위험까지 확대한다.
김세웅 카카오 AI 시너지 성과리더는 이번 협력으로 카카오 AI 모델의 안전성 검증 체계가 더 객관적·엄격해졌다고 설명했다. 이어 기술 혁신과 함께 안전성·신뢰를 고려한 AI 모델·서비스 제공을 위해 지속적으로 노력하겠다는 의지를 밝혔다.
김명주 인공지능안전연구소 소장은 AI 기술 고도화에 따라 잠재 위험의 선제 식별·평가 체계의 중요성이 커진다고 밝혔으며, 이를 바탕으로 카카오와 협력해 글로벌 표준에 부합하는 AI 안전성 평가 체계를 구축하겠다는 계획을 밝혔다.
출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407499
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 테크월드뉴스
원문 확인이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.