Nadel im multimodalen Heuhaufen

Needle In A Multimodal Haystack

June 11, 2024

Autoren: Weiyun Wang, Shuibo Zhang, Yiming Ren, Yuchen Duan, Tiantong Li, Shuo Liu, Mengkang Hu, Zhe Chen, Kaipeng Zhang, Lewei Lu, Xizhou Zhu, Ping Luo, Yu Qiao, Jifeng Dai, Wenqi Shao, Wenhai Wang

cs.AI

Zusammenfassung

Mit dem raschen Fortschritt von multimodalen großen Sprachmodellen (MLLMs) ist ihre Bewertung zunehmend umfassend geworden. Dennoch bleibt das Verständnis von langen multimodalen Inhalten als grundlegende Fähigkeit für Anwendungen in der realen Welt bisher unerforscht. In dieser Arbeit präsentieren wir Needle In A Multimodal Haystack (MM-NIAH), den ersten Benchmark, der speziell entwickelt wurde, um systematisch die Fähigkeit bestehender MLLMs zu bewerten, lange multimodale Dokumente zu erfassen. Unser Benchmark umfasst drei Arten von Evaluierungsaufgaben: multimodale Suche, Zählen und Schlussfolgern. In jeder Aufgabe muss das Modell Fragen gemäß unterschiedlicher Schlüsselinformationen beantworten, die über das gegebene multimodale Dokument verstreut sind. Bei der Evaluierung der führenden MLLMs auf MM-NIAH stellen wir fest, dass bestehende Modelle noch erhebliches Verbesserungspotenzial bei diesen Aufgaben haben, insbesondere bei der visionären Bewertung. Wir hoffen, dass diese Arbeit eine Plattform für weitere Forschung zur Erfassung von langen multimodalen Dokumenten bieten kann und zum Fortschritt von MLLMs beiträgt. Der Code und der Benchmark sind unter https://github.com/OpenGVLab/MM-NIAH verfügbar.

English

With the rapid advancement of multimodal large language models (MLLMs), their evaluation has become increasingly comprehensive. However, understanding long multimodal content, as a foundational ability for real-world applications, remains underexplored. In this work, we present Needle In A Multimodal Haystack (MM-NIAH), the first benchmark specifically designed to systematically evaluate the capability of existing MLLMs to comprehend long multimodal documents. Our benchmark includes three types of evaluation tasks: multimodal retrieval, counting, and reasoning. In each task, the model is required to answer the questions according to different key information scattered throughout the given multimodal document. Evaluating the leading MLLMs on MM-NIAH, we observe that existing models still have significant room for improvement on these tasks, especially on vision-centric evaluation. We hope this work can provide a platform for further research on long multimodal document comprehension and contribute to the advancement of MLLMs. Code and benchmark are released at https://github.com/OpenGVLab/MM-NIAH.