Naald in een multimodale hooiberg

Samenvatting

Met de snelle vooruitgang van multimodale grote taalmodellen (MLLMs) is hun evaluatie steeds uitgebreider geworden. Het begrijpen van lange multimodale inhoud, als een fundamentele vaardigheid voor toepassingen in de echte wereld, blijft echter onderbelicht. In dit werk presenteren we Needle In A Multimodal Haystack (MM-NIAH), de eerste benchmark die specifiek is ontworpen om systematisch het vermogen van bestaande MLLMs om lange multimodale documenten te begrijpen te evalueren. Onze benchmark omvat drie soorten evaluatietaken: multimodale retrievals, tellen en redeneren. In elke taak moet het model de vragen beantwoorden op basis van verschillende sleutelinformatie die verspreid is door het gegeven multimodale document. Door de toonaangevende MLLMs op MM-NIAH te evalueren, observeren we dat bestaande modellen nog aanzienlijke ruimte voor verbetering hebben bij deze taken, vooral bij visiegerichte evaluatie. We hopen dat dit werk een platform kan bieden voor verder onderzoek naar het begrijpen van lange multimodale documenten en kan bijdragen aan de vooruitgang van MLLMs. Code en benchmark zijn vrijgegeven op https://github.com/OpenGVLab/MM-NIAH.

English

With the rapid advancement of multimodal large language models (MLLMs), their evaluation has become increasingly comprehensive. However, understanding long multimodal content, as a foundational ability for real-world applications, remains underexplored. In this work, we present Needle In A Multimodal Haystack (MM-NIAH), the first benchmark specifically designed to systematically evaluate the capability of existing MLLMs to comprehend long multimodal documents. Our benchmark includes three types of evaluation tasks: multimodal retrieval, counting, and reasoning. In each task, the model is required to answer the questions according to different key information scattered throughout the given multimodal document. Evaluating the leading MLLMs on MM-NIAH, we observe that existing models still have significant room for improvement on these tasks, especially on vision-centric evaluation. We hope this work can provide a platform for further research on long multimodal document comprehension and contribute to the advancement of MLLMs. Code and benchmark are released at https://github.com/OpenGVLab/MM-NIAH.