SO-Bench: Оценка мультимодальных больших языковых моделей по структурному выводу

SO-Bench: A Structural Output Evaluation of Multimodal LLMs

November 23, 2025

Авторы: Di Feng, Kaixin Ma, Feng Nan, Haofeng Chen, Bohan Zhai, David Griffiths, Mingfei Gao, Zhe Gan, Eshan Verma, Yinfei Yang, Zhifeng Chen, Afshin Dehghan

cs.AI

Аннотация

Мультимодальные большие языковые модели (MLLM) все чаще развертываются в реальных агентских сценариях, где выходные данные должны быть не только корректными, но и соответствовать предопределенным схемам данных. Несмотря на недавний прогресс в области структурированного генерирования в текстовой сфере, до сих пор не существует бенчмарка, который бы систематически оценивал извлечение информации и рассуждения, основанные на схемах, для визуальных входных данных. В данной работе мы проводим всестороннее исследование возможностей MLLM по формированию визуального структурного вывода с помощью тщательно разработанного бенчмарка SO-Bench. Охватывая четыре визуальные области, включая экраны пользовательского интерфейса, натуральные изображения, документы и диаграммы, SO-Bench построен на основе более 6,5 тысяч разнообразных JSON-схем и 1,8 тысяч отобранных пар "изображение-схема" с качеством, проверенным человеком. Эксперименты по тестированию открытых и передовых проприетарных моделей выявляют устойчивые пробелы в прогнозировании точных выходных данных, соответствующих схеме, что подчеркивает необходимость улучшения мультимодального структурированного мышления. Помимо тестирования, мы также проводим обучающие эксперименты, которые значительно повышают способность модели к структурированному выводу. Мы планируем сделать бенчмарк доступным для сообщества.

English

Multimodal large language models (MLLMs) are increasingly deployed in real-world, agentic settings where outputs must not only be correct, but also conform to predefined data schemas. Despite recent progress in structured generation in textual domain, there is still no benchmark that systematically evaluates schema-grounded information extraction and reasoning over visual inputs. In this work, we conduct a comprehensive study of visual structural output capabilities for MLLMs with our carefully designed SO-Bench benchmark. Covering four visual domains, including UI screens, natural images, documents, and charts, SO-Bench is built from over 6.5K diverse JSON schemas and 1.8K curated image-schema pairs with human-verified quality. Benchmarking experiments on open-sourced and frontier proprietary models reveal persistent gaps in predicting accurate, schema compliant outputs, highlighting the need for better multimodal structured reasoning. Beyond benchmarking, we further conduct training experiments to largely improve the model's structured output capability. We plan to make the benchmark available to the community.