MMTEB: Benchmark de Embedding de Texto Massivamente Multilíngue

MMTEB: Massive Multilingual Text Embedding Benchmark

February 19, 2025

Autores: Kenneth Enevoldsen, Isaac Chung, Imene Kerboua, Márton Kardos, Ashwin Mathur, David Stap, Jay Gala, Wissam Siblini, Dominik Krzemiński, Genta Indra Winata, Saba Sturua, Saiteja Utpala, Mathieu Ciancone, Marion Schaeffer, Gabriel Sequeira, Diganta Misra, Shreeya Dhakal, Jonathan Rystrøm, Roman Solomatin, Ömer Çağatan, Akash Kundu, Martin Bernstorff, Shitao Xiao, Akshita Sukhlecha, Bhavish Pahwa, Rafał Poświata, Kranthi Kiran GV, Shawon Ashraf, Daniel Auras, Björn Plüster, Jan Philipp Harries, Loïc Magne, Isabelle Mohr, Mariya Hendriksen, Dawei Zhu, Hippolyte Gisserot-Boukhlef, Tom Aarsen, Jan Kostkan, Konrad Wojtasik, Taemin Lee, Marek Šuppa, Crystina Zhang, Roberta Rocca, Mohammed Hamdy, Andrianos Michail, John Yang, Manuel Faysse, Aleksei Vatolin, Nandan Thakur, Manan Dey, Dipam Vasani, Pranjal Chitale, Simone Tedeschi, Nguyen Tai, Artem Snegirev, Michael Günther, Mengzhou Xia, Weijia Shi, Xing Han Lù, Jordan Clive, Gayatri Krishnakumar, Anna Maksimova, Silvan Wehrli, Maria Tikhonova, Henil Panchal, Aleksandr Abramov, Malte Ostendorff, Zheng Liu, Simon Clematide, Lester James Miranda, Alena Fenogenova, Guangyu Song, Ruqiya Bin Safi, Wen-Ding Li, Alessia Borghini, Federico Cassano, Hongjin Su, Jimmy Lin, Howard Yen, Lasse Hansen, Sara Hooker, Chenghao Xiao, Vaibhav Adlakha, Orion Weller, Siva Reddy, Niklas Muennighoff

cs.AI

Resumo

Os embeddings de texto são tipicamente avaliados em um conjunto limitado de tarefas, que são restritas por idioma, domínio e diversidade de tarefas. Para abordar essas limitações e fornecer uma avaliação mais abrangente, apresentamos o Massive Multilingual Text Embedding Benchmark (MMTEB) - uma expansão em grande escala e impulsionada pela comunidade do MTEB, cobrindo mais de 500 tarefas de avaliação controladas por qualidade em mais de 250 idiomas. O MMTEB inclui um conjunto diversificado de tarefas desafiadoras e inovadoras, como seguir instruções, recuperação de documentos longos e recuperação de código, representando a maior coleção multilíngue de tarefas de avaliação para modelos de embeddings até o momento. Usando essa coleção, desenvolvemos vários benchmarks altamente multilíngues, que utilizamos para avaliar um conjunto representativo de modelos. Descobrimos que, embora modelos de linguagem de grande escala (LLMs) com bilhões de parâmetros possam alcançar desempenho de ponta em determinados subconjuntos de idiomas e categorias de tarefas, o modelo publicamente disponível com melhor desempenho é o multilingual-e5-large-instruct, com apenas 560 milhões de parâmetros. Para facilitar a acessibilidade e reduzir o custo computacional, introduzimos um novo método de subamostragem baseado na correlação intertarefas, garantindo uma seleção diversificada enquanto preserva as classificações relativas dos modelos. Além disso, otimizamos tarefas como recuperação ao amostrar negativos difíceis, criando divisões menores, mas eficazes. Essas otimizações nos permitem introduzir benchmarks que reduzem drasticamente as demandas computacionais. Por exemplo, nosso novo benchmark de inglês zero-shot mantém uma ordem de classificação semelhante à versão em escala completa, mas com uma fração do custo computacional.

English

Text embeddings are typically evaluated on a limited set of tasks, which are constrained by language, domain, and task diversity. To address these limitations and provide a more comprehensive evaluation, we introduce the Massive Multilingual Text Embedding Benchmark (MMTEB) - a large-scale, community-driven expansion of MTEB, covering over 500 quality-controlled evaluation tasks across 250+ languages. MMTEB includes a diverse set of challenging, novel tasks such as instruction following, long-document retrieval, and code retrieval, representing the largest multilingual collection of evaluation tasks for embedding models to date. Using this collection, we develop several highly multilingual benchmarks, which we use to evaluate a representative set of models. We find that while large language models (LLMs) with billions of parameters can achieve state-of-the-art performance on certain language subsets and task categories, the best-performing publicly available model is multilingual-e5-large-instruct with only 560 million parameters. To facilitate accessibility and reduce computational cost, we introduce a novel downsampling method based on inter-task correlation, ensuring a diverse selection while preserving relative model rankings. Furthermore, we optimize tasks such as retrieval by sampling hard negatives, creating smaller but effective splits. These optimizations allow us to introduce benchmarks that drastically reduce computational demands. For instance, our newly introduced zero-shot English benchmark maintains a ranking order similar to the full-scale version but at a fraction of the computational cost.