MixReasoning: Schakelen tussen denkmodi

MixReasoning: Switching Modes to Think

October 7, 2025

Auteurs: Haiquan Lu, Gongfan Fang, Xinyin Ma, Qi Li, Xinchao Wang

cs.AI

Samenvatting

Redeneermodellen verbeteren prestaties door problemen stap voor stap aan te pakken, ze op te splitsen in subproblemen en lange gedachtegangen te verkennen voordat een antwoord wordt geproduceerd. Het toepassen van uitgebreid redeneren op elke stap introduceert echter aanzienlijke redundantie, aangezien subproblemen sterk variëren in moeilijkheidsgraad en complexiteit: een klein aantal cruciale stappen is echt uitdagend en beslissend voor het uiteindelijke antwoord, terwijl vele andere slechts eenvoudige revisies of simpele berekeningen vereisen. Daarom is het een natuurlijk idee om redeneermodellen het vermogen te geven om adaptief op deze variatie te reageren, in plaats van alle stappen met hetzelfde niveau van uitwerking te behandelen. Hiertoe stellen we MixReasoning voor, een raamwerk dat dynamisch de diepte van het redeneren binnen een enkel antwoord aanpast. De resulterende gedachtegang wordt dan een mengsel van gedetailleerd redeneren bij moeilijke stappen en beknopte inferentie bij eenvoudigere. Experimenten op GSM8K, MATH-500 en AIME tonen aan dat MixReasoning de lengte van het redeneren verkort en de efficiëntie aanzienlijk verbetert zonder de nauwkeurigheid in gevaar te brengen.

English

Reasoning models enhance performance by tackling problems in a step-by-step manner, decomposing them into sub-problems and exploring long chains of thought before producing an answer. However, applying extended reasoning to every step introduces substantial redundancy, as sub-problems vary widely in difficulty and complexity: a small number of pivotal steps are genuinely challenging and decisive for the final answer, while many others only involve straightforward revisions or simple computations. Therefore, a natural idea is to endow reasoning models with the ability to adaptively respond to this variation, rather than treating all steps with the same level of elaboration. To this end, we propose MixReasoning, a framework that dynamically adjusts the depth of reasoning within a single response. The resulting chain of thought then becomes a mixture of detailed reasoning on difficult steps and concise inference on simpler ones. Experiments on GSM8K, MATH-500, and AIME show that MixReasoning shortens reasoning length and substantially improves efficiency without compromising accuracy.