Создание адаптивного математического рассуждения
Making Mathematical Reasoning Adaptive
October 6, 2025
Авторы: Zhejian Lai, Xiang Geng, Zhijun Wang, Yang Bai, Jiahuan Li, Rongxiang Weng, Jingang Wang, Xuezhi Cao, Xunliang Cai, Shujian Huang
cs.AI
Аннотация
Математическое рассуждение является ключевым показателем интеллекта больших языковых моделей (LLM). Однако существующие LLM демонстрируют недостатки в устойчивости и обобщаемости. В данной статье эти недостатки связываются с ложными рассуждениями, то есть с генерацией ответов на основе поверхностных признаков. Для решения этой проблемы мы предлагаем фреймворк AdaR, который обеспечивает адаптивное рассуждение, при котором модели опираются на логику решения задач для генерации ответов. AdaR синтезирует логически эквивалентные запросы путем изменения значений переменных и обучает модели с использованием RLVR на этих данных, чтобы наказывать ложную логику и поощрять адаптивную. Для повышения качества данных мы извлекаем логику решения задачи из исходного запроса и генерируем соответствующий ответ путем выполнения кода, после чего применяем проверку на корректность. Экспериментальные результаты показывают, что AdaR улучшает устойчивость и обобщаемость, достигая значительного прогресса в математическом рассуждении при сохранении высокой эффективности данных. Анализ указывает на то, что синтез данных и RLVR работают согласованно, обеспечивая адаптивное рассуждение в LLM. Последующие анализы выявляют ключевые идеи проектирования, касающиеся влияния критических факторов и применимости для обучения LLM. Наш проект доступен по адресу https://github.com/LaiZhejian/AdaR.
English
Mathematical reasoning is a primary indicator of large language models (LLMs)
intelligence. However, existing LLMs exhibit failures of robustness and
generalization. This paper attributes these deficiencies to spurious reasoning,
i.e., producing answers from superficial features. To address this challenge,
we propose the AdaR framework to enable adaptive reasoning, wherein models rely
on problem-solving logic to produce answers. AdaR synthesizes logically
equivalent queries by varying variable values, and trains models with RLVR on
these data to penalize spurious logic while encouraging adaptive logic. To
improve data quality, we extract the problem-solving logic from the original
query and generate the corresponding answer by code execution, then apply a
sanity check. Experimental results demonstrate that AdaR improves robustness
and generalization, achieving substantial improvement in mathematical reasoning
while maintaining high data efficiency. Analysis indicates that data synthesis
and RLVR function in a coordinated manner to enable adaptive reasoning in LLMs.
Subsequent analyses derive key design insights into the effect of critical
factors and the applicability to instruct LLMs. Our project is available at
https://github.com/LaiZhejian/AdaR