SO-Bench: Uma Avaliação de Saída Estrutural para MLLMs Multimodais
SO-Bench: A Structural Output Evaluation of Multimodal LLMs
November 23, 2025
Autores: Di Feng, Kaixin Ma, Feng Nan, Haofeng Chen, Bohan Zhai, David Griffiths, Mingfei Gao, Zhe Gan, Eshan Verma, Yinfei Yang, Zhifeng Chen, Afshin Dehghan
cs.AI
Resumo
Os modelos de linguagem grandes multimodais (MLLMs) estão sendo cada vez mais implantados em ambientes reais e agentivos, onde as saídas não apenas precisam ser corretas, mas também devem estar em conformidade com esquemas de dados predefinidos. Apesar dos recentes avanços na geração estruturada no domínio textual, ainda não existe um benchmark que avalie sistematicamente a extração de informações fundamentada em esquemas e o raciocínio sobre entradas visuais. Neste trabalho, realizamos um estudo abrangente das capacidades de saída estrutural visual para MLLMs com nosso benchmark SO-Bench, cuidadosamente projetado. Abrangendo quatro domínios visuais, incluindo telas de UI, imagens naturais, documentos e gráficos, o SO-Bench é construído a partir de mais de 6,5 mil esquemas JSON diversos e 1,8 mil pares imagem-esquema selecionados com qualidade verificada por humanos. Experimentos de benchmark em modelos proprietários de fronteira e de código aberto revelam lacunas persistentes na previsão de saídas precisas e compatíveis com esquemas, destacando a necessidade de um melhor raciocínio estruturado multimodal. Além do benchmarking, realizamos ainda experimentos de treinamento para melhorar substancialmente a capacidade de saída estruturada do modelo. Planejamos disponibilizar o benchmark para a comunidade.
English
Multimodal large language models (MLLMs) are increasingly deployed in real-world, agentic settings where outputs must not only be correct, but also conform to predefined data schemas. Despite recent progress in structured generation in textual domain, there is still no benchmark that systematically evaluates schema-grounded information extraction and reasoning over visual inputs. In this work, we conduct a comprehensive study of visual structural output capabilities for MLLMs with our carefully designed SO-Bench benchmark. Covering four visual domains, including UI screens, natural images, documents, and charts, SO-Bench is built from over 6.5K diverse JSON schemas and 1.8K curated image-schema pairs with human-verified quality. Benchmarking experiments on open-sourced and frontier proprietary models reveal persistent gaps in predicting accurate, schema compliant outputs, highlighting the need for better multimodal structured reasoning. Beyond benchmarking, we further conduct training experiments to largely improve the model's structured output capability. We plan to make the benchmark available to the community.