Wiskundig Redeneren Adaptief Maken
Making Mathematical Reasoning Adaptive
October 6, 2025
Auteurs: Zhejian Lai, Xiang Geng, Zhijun Wang, Yang Bai, Jiahuan Li, Rongxiang Weng, Jingang Wang, Xuezhi Cao, Xunliang Cai, Shujian Huang
cs.AI
Samenvatting
Wiskundig redeneren is een primaire indicator van de intelligentie van grote taalmodellen (LLMs). Echter, bestaande LLMs vertonen gebreken op het gebied van robuustheid en generalisatie. Dit artikel schrijft deze tekortkomingen toe aan oppervlakkig redeneren, waarbij antwoorden worden gegenereerd op basis van oppervlakkige kenmerken. Om deze uitdaging aan te pakken, stellen we het AdaR-framework voor om adaptief redeneren mogelijk te maken, waarbij modellen vertrouwen op probleemoplossende logica om antwoorden te produceren. AdaR synthetiseert logisch equivalente vragen door variabele waarden te variëren en traint modellen met RLVR op deze gegevens om oppervlakkige logica te bestraffen terwijl adaptieve logica wordt aangemoedigd. Om de kwaliteit van de gegevens te verbeteren, extraheren we de probleemoplossende logica uit de oorspronkelijke vraag en genereren we het bijbehorende antwoord door middel van code-uitvoering, waarna we een sanity check toepassen. Experimentele resultaten tonen aan dat AdaR de robuustheid en generalisatie verbetert, met aanzienlijke vooruitgang in wiskundig redeneren terwijl een hoge gegevensefficiëntie wordt behouden. Analyse geeft aan dat gegevenssynthese en RLVR op een gecoördineerde manier functioneren om adaptief redeneren in LLMs mogelijk te maken. Vervolganalyses leiden tot belangrijke ontwerpinzichten over het effect van kritische factoren en de toepasbaarheid om LLMs te instrueren. Ons project is beschikbaar op https://github.com/LaiZhejian/AdaR.
English
Mathematical reasoning is a primary indicator of large language models (LLMs)
intelligence. However, existing LLMs exhibit failures of robustness and
generalization. This paper attributes these deficiencies to spurious reasoning,
i.e., producing answers from superficial features. To address this challenge,
we propose the AdaR framework to enable adaptive reasoning, wherein models rely
on problem-solving logic to produce answers. AdaR synthesizes logically
equivalent queries by varying variable values, and trains models with RLVR on
these data to penalize spurious logic while encouraging adaptive logic. To
improve data quality, we extract the problem-solving logic from the original
query and generate the corresponding answer by code execution, then apply a
sanity check. Experimental results demonstrate that AdaR improves robustness
and generalization, achieving substantial improvement in mathematical reasoning
while maintaining high data efficiency. Analysis indicates that data synthesis
and RLVR function in a coordinated manner to enable adaptive reasoning in LLMs.
Subsequent analyses derive key design insights into the effect of critical
factors and the applicability to instruct LLMs. Our project is available at
https://github.com/LaiZhejian/AdaR