MorphoBench: Бенчмарк с адаптивной сложностью для оценки модели рассуждений

MorphoBench: A Benchmark with Difficulty Adaptive to Model Reasoning

October 16, 2025

Авторы: Xukai Wang, Xuanbo Liu, Mingrui Chen, Haitian Zhong, Xuanlin Yang, Bohan Zeng, Jinbo Hu, Hao Liang, Junbo Niu, Xuchen Li, Ruitao Wu, Ruichuan An, Yang Shi, Liu Liu, Xu-Yao Zhang, Qiang Liu, Zhouchen Lin, Wentao Zhang, Bin Dong

cs.AI

Аннотация

С развитием мощных моделей для масштабных рассуждений эффективная оценка их способностей к логическому мышлению становится все более важной. Однако существующие тестовые наборы, предназначенные для оценки способностей крупных моделей к рассуждениям, часто ограничены по охвату и не обладают гибкостью для адаптации сложности в соответствии с развивающимися возможностями моделей. Для решения этой проблемы мы предлагаем MorphoBench — тестовый набор, который включает междисциплинарные вопросы для оценки способностей крупных моделей к рассуждениям и может адаптировать и обновлять сложность вопросов в зависимости от возможностей передовых моделей. В частности, мы создали этот набор, отбирая и собирая сложные вопросы на рассуждения из существующих тестовых наборов и источников, таких как олимпиадные соревнования. Кроме того, MorphoBench адаптивно изменяет аналитическую сложность вопросов, используя ключевые утверждения, генерируемые в процессе рассуждения модели. Также он включает вопросы, созданные с помощью симуляционного программного обеспечения, что позволяет динамически регулировать сложность тестового набора с минимальными затратами ресурсов. Мы собрали более 1300 тестовых вопросов и итеративно корректировали сложность MorphoBench на основе возможностей моделей, таких как o3 и GPT-5. MorphoBench повышает полноту и достоверность оценки способностей моделей к рассуждениям, предоставляя надежные рекомендации для улучшения как их логических способностей, так и научной обоснованности. Код доступен по адресу: https://github.com/OpenDCAI/MorphoBench.

English

With the advancement of powerful large-scale reasoning models, effectively evaluating the reasoning capabilities of these models has become increasingly important. However, existing benchmarks designed to assess the reasoning abilities of large models tend to be limited in scope and lack the flexibility to adapt their difficulty according to the evolving reasoning capacities of the models. To address this, we propose MorphoBench, a benchmark that incorporates multidisciplinary questions to evaluate the reasoning capabilities of large models and can adjust and update question difficulty based on the reasoning abilities of advanced models. Specifically, we curate the benchmark by selecting and collecting complex reasoning questions from existing benchmarks and sources such as Olympiad-level competitions. Additionally, MorphoBench adaptively modifies the analytical challenge of questions by leveraging key statements generated during the model's reasoning process. Furthermore, it includes questions generated using simulation software, enabling dynamic adjustment of benchmark difficulty with minimal resource consumption. We have gathered over 1,300 test questions and iteratively adjusted the difficulty of MorphoBench based on the reasoning capabilities of models such as o3 and GPT-5. MorphoBench enhances the comprehensiveness and validity of model reasoning evaluation, providing reliable guidance for improving both the reasoning abilities and scientific robustness of large models. The code has been released in https://github.com/OpenDCAI/MorphoBench.