SO-Bench: Een structurele evaluatie van de uitvoer van multimodale LLM's
SO-Bench: A Structural Output Evaluation of Multimodal LLMs
November 23, 2025
Auteurs: Di Feng, Kaixin Ma, Feng Nan, Haofeng Chen, Bohan Zhai, David Griffiths, Mingfei Gao, Zhe Gan, Eshan Verma, Yinfei Yang, Zhifeng Chen, Afshin Dehghan
cs.AI
Samenvatting
Multimodale grote taalmodellen (MLLM's) worden steeds vaker ingezet in realistische, agent-achtige omgevingen waar uitvoeren niet alleen correct moeten zijn, maar ook moeten voldoen aan vooraf gedefinieerde gegevensschema's. Ondanks recente vooruitgang in gestructureerde generatie in het tekstuele domein, ontbreekt het nog steeds aan een benchmark die schema-gestuurde informatie-extractie en redenering over visuele invoer systematisch evalueert. In dit werk voeren we een uitgebreide studie uit naar de visuele structurele uitvoercapaciteiten van MLLM's met onze zorgvuldig ontworpen SO-Bench benchmark. SO-Bench, dat vier visuele domeinen omvat waaronder UI-schermen, natuurlijke afbeeldingen, documenten en grafieken, is opgebouwd uit meer dan 6.500 diverse JSON-schema's en 1.800 geselecteerde afbeelding-schemaparen met een door mensen geverifieerde kwaliteit. Benchmarkexperimenten met open-source en vooruitstrevende propriëtaire modellen onthullen aanhoudende hiaten in het voorspellen van accurate, schema-conforme uitvoeren, wat de noodzaak voor betere multimodale gestructureerde redenering benadrukt. Naast het benchmarken voeren we verder trainings-experimenten uit om de gestructureerde uitvoercapaciteit van het model aanzienlijk te verbeteren. Wij zijn van plan de benchmark beschikbaar te stellen voor de gemeenschap.
English
Multimodal large language models (MLLMs) are increasingly deployed in real-world, agentic settings where outputs must not only be correct, but also conform to predefined data schemas. Despite recent progress in structured generation in textual domain, there is still no benchmark that systematically evaluates schema-grounded information extraction and reasoning over visual inputs. In this work, we conduct a comprehensive study of visual structural output capabilities for MLLMs with our carefully designed SO-Bench benchmark. Covering four visual domains, including UI screens, natural images, documents, and charts, SO-Bench is built from over 6.5K diverse JSON schemas and 1.8K curated image-schema pairs with human-verified quality. Benchmarking experiments on open-sourced and frontier proprietary models reveal persistent gaps in predicting accurate, schema compliant outputs, highlighting the need for better multimodal structured reasoning. Beyond benchmarking, we further conduct training experiments to largely improve the model's structured output capability. We plan to make the benchmark available to the community.