Ago In Un Pagliaio Multimodale

Abstract

Con il rapido progresso dei modelli linguistici multimodali di grandi dimensioni (MLLM), la loro valutazione è diventata sempre più completa. Tuttavia, la comprensione di contenuti multimodali lunghi, come abilità fondamentale per applicazioni nel mondo reale, rimane ancora poco esplorata. In questo lavoro, presentiamo Needle In A Multimodal Haystack (MM-NIAH), il primo benchmark specificamente progettato per valutare sistematicamente la capacità degli MLLM esistenti di comprendere documenti multimodali lunghi. Il nostro benchmark include tre tipi di compiti di valutazione: recupero multimodale, conteggio e ragionamento. In ciascun compito, il modello è tenuto a rispondere alle domande in base a diverse informazioni chiave sparse all'interno del documento multimodale fornito. Valutando i principali MLLM su MM-NIAH, osserviamo che i modelli esistenti hanno ancora un margine di miglioramento significativo in questi compiti, specialmente nella valutazione centrata sulla visione. Speriamo che questo lavoro possa fornire una piattaforma per ulteriori ricerche sulla comprensione di documenti multimodali lunghi e contribuire all'avanzamento degli MLLM. Il codice e il benchmark sono rilasciati all'indirizzo https://github.com/OpenGVLab/MM-NIAH.

English

With the rapid advancement of multimodal large language models (MLLMs), their evaluation has become increasingly comprehensive. However, understanding long multimodal content, as a foundational ability for real-world applications, remains underexplored. In this work, we present Needle In A Multimodal Haystack (MM-NIAH), the first benchmark specifically designed to systematically evaluate the capability of existing MLLMs to comprehend long multimodal documents. Our benchmark includes three types of evaluation tasks: multimodal retrieval, counting, and reasoning. In each task, the model is required to answer the questions according to different key information scattered throughout the given multimodal document. Evaluating the leading MLLMs on MM-NIAH, we observe that existing models still have significant room for improvement on these tasks, especially on vision-centric evaluation. We hope this work can provide a platform for further research on long multimodal document comprehension and contribute to the advancement of MLLMs. Code and benchmark are released at https://github.com/OpenGVLab/MM-NIAH.