Rendere il Ragionamento Matematico Adattivo
Making Mathematical Reasoning Adaptive
October 6, 2025
Autori: Zhejian Lai, Xiang Geng, Zhijun Wang, Yang Bai, Jiahuan Li, Rongxiang Weng, Jingang Wang, Xuezhi Cao, Xunliang Cai, Shujian Huang
cs.AI
Abstract
Il ragionamento matematico è un indicatore primario dell'intelligenza dei grandi modelli linguistici (LLM). Tuttavia, gli attuali LLM mostrano carenze in termini di robustezza e generalizzazione. Questo articolo attribuisce tali carenze al ragionamento spurio, ovvero alla produzione di risposte basate su caratteristiche superficiali. Per affrontare questa sfida, proponiamo il framework AdaR per abilitare un ragionamento adattivo, in cui i modelli si basano sulla logica di risoluzione dei problemi per produrre risposte. AdaR sintetizza query logicamente equivalenti variando i valori delle variabili e addestra i modelli con RLVR su questi dati per penalizzare la logica spuria mentre incoraggia la logica adattiva. Per migliorare la qualità dei dati, estraiamo la logica di risoluzione del problema dalla query originale e generiamo la risposta corrispondente tramite esecuzione di codice, applicando poi un controllo di validità. I risultati sperimentali dimostrano che AdaR migliora la robustezza e la generalizzazione, ottenendo un sostanziale miglioramento nel ragionamento matematico mantenendo un'elevata efficienza dei dati. L'analisi indica che la sintesi dei dati e RLVR funzionano in modo coordinato per abilitare il ragionamento adattivo nei LLM. Le analisi successive derivano intuizioni chiave sul design riguardo all'effetto di fattori critici e all'applicabilità per istruire i LLM. Il nostro progetto è disponibile all'indirizzo https://github.com/LaiZhejian/AdaR.
English
Mathematical reasoning is a primary indicator of large language models (LLMs)
intelligence. However, existing LLMs exhibit failures of robustness and
generalization. This paper attributes these deficiencies to spurious reasoning,
i.e., producing answers from superficial features. To address this challenge,
we propose the AdaR framework to enable adaptive reasoning, wherein models rely
on problem-solving logic to produce answers. AdaR synthesizes logically
equivalent queries by varying variable values, and trains models with RLVR on
these data to penalize spurious logic while encouraging adaptive logic. To
improve data quality, we extract the problem-solving logic from the original
query and generate the corresponding answer by code execution, then apply a
sanity check. Experimental results demonstrate that AdaR improves robustness
and generalization, achieving substantial improvement in mathematical reasoning
while maintaining high data efficiency. Analysis indicates that data synthesis
and RLVR function in a coordinated manner to enable adaptive reasoning in LLMs.
Subsequent analyses derive key design insights into the effect of critical
factors and the applicability to instruct LLMs. Our project is available at
https://github.com/LaiZhejian/AdaR