PATS: Modo de Pensamento Adaptativo em Nível de Processo

PATS: Process-Level Adaptive Thinking Mode Switching

May 25, 2025

Autores: Yi Wang, Junxiao Liu, Shimao Zhang, Jiajun Chen, Shujian Huang

cs.AI

Resumo

Os grandes modelos de linguagem (LLMs) atuais geralmente adotam uma estratégia de raciocínio fixa, seja simples ou complexa, para todas as perguntas, independentemente de sua dificuldade. Essa negligência em relação à variação na complexidade das tarefas e dos processos de raciocínio resulta em um desequilíbrio entre desempenho e eficiência. Métodos existentes tentam implementar a alternância entre sistemas de pensamento rápido e lento sem necessidade de treinamento para lidar com problemas de dificuldade variada, mas são limitados por ajustes de estratégia em nível de solução de granularidade grossa. Para resolver essa questão, propomos um novo paradigma de raciocínio: Alternância Adaptativa de Modo de Pensamento em Nível de Processo (PATS), que permite que os LLMs ajustem dinamicamente sua estratégia de raciocínio com base na dificuldade de cada etapa, otimizando o equilíbrio entre precisão e eficiência computacional. Nossa abordagem integra Modelos de Recompensa de Processo (PRMs) com Busca em Feixe, incorporando mecanismos de alternância progressiva de modo e penalização de etapas ruins. Experimentos em diversos benchmarks matemáticos demonstram que nossa metodologia alcança alta precisão enquanto mantém um uso moderado de tokens. Este estudo enfatiza a importância da adaptação da estratégia de raciocínio em nível de processo e consciente da dificuldade, oferecendo insights valiosos para inferência eficiente em LLMs.

English

Current large-language models (LLMs) typically adopt a fixed reasoning strategy, either simple or complex, for all questions, regardless of their difficulty. This neglect of variation in task and reasoning process complexity leads to an imbalance between performance and efficiency. Existing methods attempt to implement training-free fast-slow thinking system switching to handle problems of varying difficulty, but are limited by coarse-grained solution-level strategy adjustments. To address this issue, we propose a novel reasoning paradigm: Process-Level Adaptive Thinking Mode Switching (PATS), which enables LLMs to dynamically adjust their reasoning strategy based on the difficulty of each step, optimizing the balance between accuracy and computational efficiency. Our approach integrates Process Reward Models (PRMs) with Beam Search, incorporating progressive mode switching and bad-step penalty mechanisms. Experiments on diverse mathematical benchmarks demonstrate that our methodology achieves high accuracy while maintaining moderate token usage. This study emphasizes the significance of process-level, difficulty-aware reasoning strategy adaptation, offering valuable insights into efficient inference for LLMs.