Игла в мультимодальной стоге сена

Needle In A Multimodal Haystack

June 11, 2024

Авторы: Weiyun Wang, Shuibo Zhang, Yiming Ren, Yuchen Duan, Tiantong Li, Shuo Liu, Mengkang Hu, Zhe Chen, Kaipeng Zhang, Lewei Lu, Xizhou Zhu, Ping Luo, Yu Qiao, Jifeng Dai, Wenqi Shao, Wenhai Wang

cs.AI

Аннотация

С быстрым развитием мультимодальных крупных языковых моделей (MLLMs) их оценка стала все более всесторонней. Однако понимание длинного мультимодального контента, как фундаментальное умение для прикладных приложений в реальном мире, остается недостаточно изученным. В данной работе мы представляем Needle In A Multimodal Haystack (MM-NIAH), первый бенчмарк, специально разработанный для систематической оценки способности существующих MLLMs понимать длинные мультимодальные документы. Наш бенчмарк включает три типа задач оценки: мультимодальный поиск, подсчет и рассуждение. В каждой задаче модель должна ответить на вопросы в соответствии с различной ключевой информацией, разбросанной по предоставленному мультимодальному документу. Оценивая ведущие MLLMs на MM-NIAH, мы замечаем, что у существующих моделей все еще есть значительное пространство для улучшения в этих задачах, особенно в оценке, сосредоточенной на зрении. Мы надеемся, что эта работа может предоставить платформу для дальнейших исследований по пониманию длинных мультимодальных документов и способствовать развитию MLLMs. Код и бенчмарк доступны по ссылке https://github.com/OpenGVLab/MM-NIAH.

English

With the rapid advancement of multimodal large language models (MLLMs), their evaluation has become increasingly comprehensive. However, understanding long multimodal content, as a foundational ability for real-world applications, remains underexplored. In this work, we present Needle In A Multimodal Haystack (MM-NIAH), the first benchmark specifically designed to systematically evaluate the capability of existing MLLMs to comprehend long multimodal documents. Our benchmark includes three types of evaluation tasks: multimodal retrieval, counting, and reasoning. In each task, the model is required to answer the questions according to different key information scattered throughout the given multimodal document. Evaluating the leading MLLMs on MM-NIAH, we observe that existing models still have significant room for improvement on these tasks, especially on vision-centric evaluation. We hope this work can provide a platform for further research on long multimodal document comprehension and contribute to the advancement of MLLMs. Code and benchmark are released at https://github.com/OpenGVLab/MM-NIAH.