|
2026-10-29 16:54
조회: 41
추천: 0
카카오, AI 에이전트 '기억력' 오픈소스로
카카오가 개인화 AI 에이전트의 기반 기술인 임베딩 모델 2종을 오픈소스로 공개했다. 문장의 의미를 벡터로 바꿔 관련성 높은 정보를 찾아내는 기술로, 에이전트가 이용자의 과거 대화를 기억하고 맥락에 맞게 답하는 데 핵심적인 역할을 한다. 지디넷코리아 보도에 따르면 카카오는 29일 '카나나-2-3b-embedding'(파라미터 30억 개)과 '카나나-2-1.3b-embedding'(13억 개) 2종을 허깅페이스에 공개했다. 30억 모델은 자체 소형 언어모델 'Kanana-2-SLM'의 언어 이해 능력을 정보 검색에 맞게 학습시켜 만들었고, 13억 모델은 대형 모델의 지식을 소형 모델로 옮기는 지식 증류 기법으로 개발했다. 메모리 사용량과 추론 속도에서 기존 카나나 임베딩 시리즈보다 수십 배 이상 효율이 개선됐다고 밝혔다. 비슷한 규모의 공개 모델인 llama-nemotron-embed-1b-v2, Qwen3-Embedding-4B와 비교했을 때 한국어 성능이 가장 높았고 영어 성능은 비슷한 수준이었다. 추론 효율은 Qwen3-Embedding보다 높았다고 설명했다. 두 모델은 MRL 기술이 적용돼 벡터 크기를 조정할 수 있어, 개발자가 검색 성능과 저장 공간, 처리 속도를 저울질해 설정할 수 있다. 다만 상업적으로 쓰려면 '카나나 오픈 라이선스' 조건을 충족해야 한다. 카카오는 앞으로 더 큰 언어모델을 활용한 임베딩 학습과 지식 증류 연구를 이어갈 계획이라고 밝혔다. |

Harv