SO-Bench: Una Valutazione dell'Output Strutturale per Modelli Linguistici Multimodali

SO-Bench: A Structural Output Evaluation of Multimodal LLMs

November 23, 2025

Autori: Di Feng, Kaixin Ma, Feng Nan, Haofeng Chen, Bohan Zhai, David Griffiths, Mingfei Gao, Zhe Gan, Eshan Verma, Yinfei Yang, Zhifeng Chen, Afshin Dehghan

cs.AI

Abstract

I modelli linguistici multimodali di grandi dimensioni (MLLM) vengono sempre più impiegati in contesti reali e agentivi, dove gli output non devono solo essere corretti, ma devono anche conformarsi a schemi di dati predefiniti. Nonostante i recenti progressi nella generazione strutturata in ambito testuale, manca ancora un benchmark che valuti sistematicamente l'estrazione di informazioni e il ragionamento vincolati a schemi su input visivi. In questo lavoro, conduciamo uno studio completo sulle capacità di output strutturato visivo per gli MLLM con il nostro benchmark SO-Bench, progettato con cura. Coprendo quattro domini visivi, tra cui schermate UI, immagini naturali, documenti e grafici, SO-Bench è costruito a partire da oltre 6.500 schemi JSON diversificati e 1.800 coppie immagine-schema curate con qualità verificata da esseri umani. Esperimenti di benchmarking su modelli proprietari all'avanguardia e open-source rivelano lacune persistenti nella previsione di output accurati e conformi allo schema, evidenziando la necessità di un migliore ragionamento strutturato multimodale. Oltre al benchmarking, conduciamo ulteriori esperimenti di addestramento per migliorare notevolmente la capacità di output strutturato del modello. Prevediamo di rendere il benchmark disponibile alla comunità.

English

Multimodal large language models (MLLMs) are increasingly deployed in real-world, agentic settings where outputs must not only be correct, but also conform to predefined data schemas. Despite recent progress in structured generation in textual domain, there is still no benchmark that systematically evaluates schema-grounded information extraction and reasoning over visual inputs. In this work, we conduct a comprehensive study of visual structural output capabilities for MLLMs with our carefully designed SO-Bench benchmark. Covering four visual domains, including UI screens, natural images, documents, and charts, SO-Bench is built from over 6.5K diverse JSON schemas and 1.8K curated image-schema pairs with human-verified quality. Benchmarking experiments on open-sourced and frontier proprietary models reveal persistent gaps in predicting accurate, schema compliant outputs, highlighting the need for better multimodal structured reasoning. Beyond benchmarking, we further conduct training experiments to largely improve the model's structured output capability. We plan to make the benchmark available to the community.