Agulha em um Palheiro Multimodal

Resumo

Com o rápido avanço dos modelos de linguagem multimodal de grande escala (MLLMs), sua avaliação tornou-se cada vez mais abrangente. No entanto, a compreensão de conteúdo multimodal extenso, como uma habilidade fundamental para aplicações do mundo real, permanece pouco explorada. Neste trabalho, apresentamos o Needle In A Multimodal Haystack (MM-NIAH), o primeiro benchmark especificamente projetado para avaliar sistematicamente a capacidade dos MLLMs existentes de compreender documentos multimodais longos. Nosso benchmark inclui três tipos de tarefas de avaliação: recuperação multimodal, contagem e raciocínio. Em cada tarefa, o modelo é obrigado a responder às perguntas com base em diferentes informações-chave espalhadas ao longo do documento multimodal fornecido. Ao avaliar os principais MLLMs no MM-NIAH, observamos que os modelos existentes ainda têm um espaço significativo para melhoria nessas tarefas, especialmente na avaliação centrada em visão. Esperamos que este trabalho possa fornecer uma plataforma para pesquisas futuras sobre a compreensão de documentos multimodais longos e contribuir para o avanço dos MLLMs. O código e o benchmark estão disponíveis em https://github.com/OpenGVLab/MM-NIAH.

English

With the rapid advancement of multimodal large language models (MLLMs), their evaluation has become increasingly comprehensive. However, understanding long multimodal content, as a foundational ability for real-world applications, remains underexplored. In this work, we present Needle In A Multimodal Haystack (MM-NIAH), the first benchmark specifically designed to systematically evaluate the capability of existing MLLMs to comprehend long multimodal documents. Our benchmark includes three types of evaluation tasks: multimodal retrieval, counting, and reasoning. In each task, the model is required to answer the questions according to different key information scattered throughout the given multimodal document. Evaluating the leading MLLMs on MM-NIAH, we observe that existing models still have significant room for improvement on these tasks, especially on vision-centric evaluation. We hope this work can provide a platform for further research on long multimodal document comprehension and contribute to the advancement of MLLMs. Code and benchmark are released at https://github.com/OpenGVLab/MM-NIAH.