카카오, ‘카나나 임베딩’ 모델 2종 공개…한국어 검색 성능 강화

카카오는 '카나나 임베딩(Kanana Embedding)' 모델 2종을 허깅페이스에 오픈소스로 공개했다. 카카오는 지난 7월 카나나 소형 언어모델(SLM) 4종을 공개한 데 이어, 이번에는 검색과 정보 연결에 쓰이는 임베딩 모델까지 오픈소스로 내놨다. 이번 공개로 오픈소스 범위는 검색·정보 연결용 임베딩 기술까지 확대됐다.

이번에 공개한 모델은 30억 파라미터의 '카나나-2-3b-임베딩(Kanana-2-3b-embedding)'과 13억 파라미터의 '카나나-2-1.3b-임베딩(Kanana-2-1.3b-embedding)'이다. 활용처는 개인화 AI 에이전트와 의미 기반 검색이다.

임베딩은 텍스트 의미를 숫자 벡터로 변환하는 기술이다. 일반 언어모델이 질문을 이해하고 답변을 생성하는 기능을 맡는다면, 임베딩 모델은 질문과 문서의 의미적 유사성을 계산하고 답변에 필요한 정보를 탐색하는 기능을 한다.

임베딩 기반 검색은 정확한 단어나 이름을 기억하지 못한 상황에서도 의미가 비슷한 정보를 찾아낼 수 있다. 예를 들어 발언 주체가 특정되지 않은 이용자가 과거에 언급한 식당 이름을 떠올리지 못한 채 전에 이야기했던 조용한 식당이라고 물으면, 이 기능은 당시 대화와 관련 정보를 탐색해 질의와 연결하는 방식으로 처리한다.

카카오는 이 검색 기능을 개인화 AI 에이전트에 적용할 계획이다. 이 개인화 AI 에이전트는 이용자의 과거 대화와 여러 서비스에 분산된 정보를 의미 단위로 연결하는 구조를 갖추고, 필요한 시점에 관련 맥락을 검색해 답변에 반영한다. 카카오는 'if(kakao)26'에서 임베딩 기술을 개인화 AI 에이전트 구현의 기반 기술로 소개했다.

성능 측면에서 이번 모델은 한국어 검색 성능에 중점을 뒀다. 카카오는 유사 규모 공개 모델을 대상으로 한 비교에서 카나나 임베딩 2종이 '라마-네모트론-임베드-1b-v2(llama-nemotron-embed-1b-v2)'와 '큐원3-임베딩-4B(Qwen3-Embedding-4B)'를 비교 대상으로 삼아 최고 한국어 성능을 기록했다고 설명했다. 영어 성능은 비슷한 수준이었고, '큐원3-임베딩-4B(Qwen3-Embedding-4B)'와 비교해 추론 효율도 높았다고 설명했다.

회사는 기존 카나나 임베딩 시리즈와 견줘 검색 성능을 높이는 동시에 메모리 사용량과 추론 속도도 개선했다고 밝혔다. 회사 발표에 따르면 메모리 사용량·추론 속도 항목의 효율이 수십 배 이상 향상한 것으로 확인됐다.

회사는 자체 소형 언어모델인 '카나나-2-SLM(Kanana-2-SLM)'의 언어 이해 능력을 정보 검색에 활용 가능하도록 추가 학습해 30억 파라미터 모델을 개발했다. 이어 3B 모델의 학습 정보를 작은 모델로 전달하는 지식 증류 기법을 적용해 1.3B 모델을 개발했다.

또 회사는 '마트료시카 표현 학습(Matryoshka Representation Learning, MRL)'을 적용해 모델 규모 외에도 실제 서비스 환경에서 자원을 조정할 수 있게 했다고 밝혔다. 이에 따라 임베딩 벡터에 사용하는 숫자 개수를 조절할 수 있으며, 개발자는 검색 성능·저장 공간·처리 속도를 고려해 서비스별 벡터 크기를 선택할 수 있다.

두 모델에는 '카나나 오픈 라이선스(Kanana Open License)'가 적용된다. 이 라이선스에 따라 연구·개발 용도와 상업적 활용이 가능하다. 이에 따라 국내외 연구자·기업은 개인화 AI 에이전트 개발과 의미 기반 검색 서비스 개발에 두 모델을 활용할 수 있다.

카카오는 더 큰 언어모델 활용 임베딩 학습을 지속할 계획이다. 카카오는 지식 증류 연구도 지속할 계획이다. 이를 통해 검색 정확도 향상, 메모리 사용 개선, 추론 속도 개선을 추진하고, 실제 서비스 환경 활용성 제고를 지향한다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 AI 에이전트와 관련해 질문에 답하는 능력과 함께 분산된 정보에서 필요한 정보를 정확히 찾는 기술이 중요하다는 취지로 밝혔다. 이어 한국어 강점 임베딩 기술의 다양한 서비스 활용을 지원하고, 검색 성능·효율을 동시에 높이는 연구를 계속해 나갈 방침이라고 밝혔다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408985

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=408985