SO-Bench : Une évaluation structurelle de la sortie des LLMs multimodaux

SO-Bench: A Structural Output Evaluation of Multimodal LLMs

November 23, 2025

papers.authors: Di Feng, Kaixin Ma, Feng Nan, Haofeng Chen, Bohan Zhai, David Griffiths, Mingfei Gao, Zhe Gan, Eshan Verma, Yinfei Yang, Zhifeng Chen, Afshin Dehghan

cs.AI

papers.abstract

Les modèles de traitement du langage multimodal (MLLM) sont de plus en plus déployés dans des environnements réels où les résultats doivent non seulement être corrects, mais également conformes à des schémas de données prédéfinis. Malgré les progrès récents en génération structurée dans le domaine textuel, il n'existe toujours pas de benchmark évaluant systématiquement l'extraction d'informations ancrée dans des schémas et le raisonnement sur des entrées visuelles. Dans ce travail, nous menons une étude approfondie des capacités de production de sorties structurelles visuelles des MLLM avec notre benchmark SO-Bench soigneusement conçu. Couvrant quatre domaines visuels, incluant les interfaces utilisateur, les images naturelles, les documents et les graphiques, SO-Bench est construit à partir de plus de 6 500 schémas JSON variés et de 1 800 paires image-schéma vérifiées manuellement. Les expériences de benchmark sur des modèles open-source et propriétaires de pointe révèlent des écarts persistants dans la prédiction de résultats précis et conformes aux schémas, soulignant la nécessité d'un meilleur raisonnement structurel multimodal. Au-delà de l'évaluation comparative, nous menons des expériences d'entraînement qui améliorent considérablement la capacité de production structurée des modèles. Nous prévoyons de mettre ce benchmark à disposition de la communauté scientifique.

English

Multimodal large language models (MLLMs) are increasingly deployed in real-world, agentic settings where outputs must not only be correct, but also conform to predefined data schemas. Despite recent progress in structured generation in textual domain, there is still no benchmark that systematically evaluates schema-grounded information extraction and reasoning over visual inputs. In this work, we conduct a comprehensive study of visual structural output capabilities for MLLMs with our carefully designed SO-Bench benchmark. Covering four visual domains, including UI screens, natural images, documents, and charts, SO-Bench is built from over 6.5K diverse JSON schemas and 1.8K curated image-schema pairs with human-verified quality. Benchmarking experiments on open-sourced and frontier proprietary models reveal persistent gaps in predicting accurate, schema compliant outputs, highlighting the need for better multimodal structured reasoning. Beyond benchmarking, we further conduct training experiments to largely improve the model's structured output capability. We plan to make the benchmark available to the community.