PATS: Procesniveau Adaptieve Denkmodus Schakeling

PATS: Process-Level Adaptive Thinking Mode Switching

May 25, 2025

Auteurs: Yi Wang, Junxiao Liu, Shimao Zhang, Jiajun Chen, Shujian Huang

cs.AI

Samenvatting

Huidige grote-taalmodellen (LLM's) hanteren doorgaans een vaste redeneerstrategie, ofwel eenvoudig of complex, voor alle vragen, ongeacht hun moeilijkheidsgraad. Dit gebrek aan variatie in taak- en redeneerprocescomplexiteit leidt tot een onevenwicht tussen prestaties en efficiëntie. Bestaande methoden proberen een trainingsvrij snel-langzaam denksysteem te implementeren om problemen van verschillende moeilijkheidsgraden aan te pakken, maar worden beperkt door grove, oplossingsniveau strategieaanpassingen. Om dit probleem aan te pakken, stellen we een nieuw redeneerparadigma voor: Procesniveau Adaptieve Denkmoduswisseling (PATS), waarmee LLM's hun redeneerstrategie dynamisch kunnen aanpassen op basis van de moeilijkheidsgraad van elke stap, waardoor de balans tussen nauwkeurigheid en rekenkundige efficiëntie wordt geoptimaliseerd. Onze aanpak integreert Proces Beloningsmodellen (PRM's) met Beam Search, waarbij progressieve moduswisseling en strafmechanismen voor slechte stappen worden opgenomen. Experimenten op diverse wiskundige benchmarks tonen aan dat onze methodologie hoge nauwkeurigheid bereikt terwijl het tokengebruik matig blijft. Deze studie benadrukt het belang van procesniveau, moeilijkheidsgraadbewuste redeneerstrategie-aanpassing, en biedt waardevolle inzichten in efficiënte inferentie voor LLM's.

English

Current large-language models (LLMs) typically adopt a fixed reasoning strategy, either simple or complex, for all questions, regardless of their difficulty. This neglect of variation in task and reasoning process complexity leads to an imbalance between performance and efficiency. Existing methods attempt to implement training-free fast-slow thinking system switching to handle problems of varying difficulty, but are limited by coarse-grained solution-level strategy adjustments. To address this issue, we propose a novel reasoning paradigm: Process-Level Adaptive Thinking Mode Switching (PATS), which enables LLMs to dynamically adjust their reasoning strategy based on the difficulty of each step, optimizing the balance between accuracy and computational efficiency. Our approach integrates Process Reward Models (PRMs) with Beam Search, incorporating progressive mode switching and bad-step penalty mechanisms. Experiments on diverse mathematical benchmarks demonstrate that our methodology achieves high accuracy while maintaining moderate token usage. This study emphasizes the significance of process-level, difficulty-aware reasoning strategy adaptation, offering valuable insights into efficient inference for LLMs.