Llama-Embed-Nemotron-8B: Универсальная модель векторного представления текста для многоязычных и кросс-лингвистических задач
Llama-Embed-Nemotron-8B: A Universal Text Embedding Model for Multilingual and Cross-Lingual Tasks
November 10, 2025
Авторы: Yauhen Babakhin, Radek Osmulski, Ronay Ak, Gabriel Moreira, Mengyao Xu, Benedikt Schifferer, Bo Liu, Even Oldridge
cs.AI
Аннотация
Мы представляем llama-embed-nemotron-8b — модель для получения текстовых эмбеддингов с открытыми весами, которая демонстрирует наилучшие на данный момент (21 октября 2025 года) результаты в рейтинге Multilingual Massive Text Embedding Benchmark (MMTEB). Хотя современные модели показывают высокую производительность, их обучающие данные и методики часто раскрываются не полностью. Мы стремимся решить эту проблему, разработав полностью открытую модель, публикуя её веса, детальные исследования методом абляции и планируя предоставить курируемые обучающие наборы данных. Наша модель демонстрирует превосходную производительность во всех основных задачах эмбеддингов — включая поиск, классификацию и семантическую текстовую схожесть (STS) — и особенно эффективна в сложных multilingual-сценариях, таких как работы с низкоресурсными языками и кросс-лингвальные настройки. Столь высокая производительность достигнута благодаря использованию новой смеси данных объёмом 16,1 миллиона пар «запрос-документ», разделённых на 7,7 миллионов примеров из публичных наборов данных и 8,4 миллионов синтетически сгенерированных примеров от различных LLM с открытыми весами. Одним из наших ключевых вкладов является детальное исследование методом абляции, анализирующее основные проектные решения, включая сравнение реализаций контрастивных функций потерь, оценку стратегий синтетической генерации данных (SDG) и влияние слияния моделей. Модель llama-embed-nemotron-8b является instruction-aware (воспринимающей инструкции) и поддерживает пользовательские инструкции для повышения производительности под конкретные задачи. Сочетание высочайшей производительности, широкой применимости и гибкости, управляемой пользователем, позволяет ей служить универсальным решением для текстовых эмбеддингов.
English
We introduce llama-embed-nemotron-8b, an open-weights text embedding model
that achieves state-of-the-art performance on the Multilingual Massive Text
Embedding Benchmark (MMTEB) leaderboard as of October 21, 2025. While recent
models show strong performance, their training data or methodologies are often
not fully disclosed. We aim to address this by developing a fully open-source
model, publicly releasing its weights and detailed ablation studies, and
planning to share the curated training datasets. Our model demonstrates
superior performance across all major embedding tasks -- including retrieval,
classification and semantic textual similarity (STS) -- and excels in
challenging multilingual scenarios, such as low-resource languages and
cross-lingual setups. This state-of-the-art performance is driven by a novel
data mix of 16.1 million query-document pairs, split between 7.7 million
samples from public datasets and 8.4 million synthetically generated examples
from various open-weight LLMs. One of our key contributions is a detailed
ablation study analyzing core design choices, including a comparison of
contrastive loss implementations, an evaluation of synthetic data generation
(SDG) strategies, and the impact of model merging. The llama-embed-nemotron-8b
is an instruction-aware model, supporting user-defined instructions to enhance
performance for specific use-cases. This combination of top-tier performance,
broad applicability, and user-driven flexibility enables it to serve as a
universal text embedding solution.