Benutten van de Redeneereconomie: Een Overzicht van Efficiënt Redeneren voor Grote Taalmodellen

Harnessing the Reasoning Economy: A Survey of Efficient Reasoning for Large Language Models

March 31, 2025

Auteurs: Rui Wang, Hongru Wang, Boyang Xue, Jianhui Pang, Shudong Liu, Yi Chen, Jiahao Qiu, Derek Fai Wong, Heng Ji, Kam-Fai Wong

cs.AI

Samenvatting

Recente vooruitgang in Large Language Models (LLMs) heeft hun vermogen om complexe redeneertaken uit te voeren aanzienlijk verbeterd, met een overgang van snel en intuïtief denken (Systeem 1) naar langzaam en diep redeneren (Systeem 2). Hoewel redeneren volgens Systeem 2 de taaknauwkeurigheid verbetert, brengt het vaak aanzienlijke rekenkosten met zich mee vanwege het langzame denkproces en inefficiënte of onnodige redeneergedragingen. Daarentegen is redeneren volgens Systeem 1 rekenkundig efficiënt, maar leidt het tot suboptimale prestaties. Daarom is het cruciaal om de afweging te maken tussen prestaties (voordelen) en rekenkosten (budgetten), wat het concept van redeneereconomie heeft doen ontstaan. In dit overzicht bieden we een uitgebreide analyse van redeneereconomie in zowel de post-trainings- als de testtijd-inferentiefasen van LLMs, waarbij we i) de oorzaak van redeneerinefficiëntie, ii) gedragsanalyse van verschillende redeneerpatronen, en iii) mogelijke oplossingen om redeneereconomie te bereiken, behandelen. Door bruikbare inzichten te bieden en openstaande uitdagingen te belichten, willen we strategieën voor het verbeteren van de redeneereconomie van LLMs verduidelijken, en zo een waardevolle bron bieden voor het bevorderen van onderzoek in dit evoluerende gebied. We bieden ook een openbare repository aan om ontwikkelingen in dit snel veranderende veld continu te volgen.

English

Recent advancements in Large Language Models (LLMs) have significantly enhanced their ability to perform complex reasoning tasks, transitioning from fast and intuitive thinking (System 1) to slow and deep reasoning (System 2). While System 2 reasoning improves task accuracy, it often incurs substantial computational costs due to its slow thinking nature and inefficient or unnecessary reasoning behaviors. In contrast, System 1 reasoning is computationally efficient but leads to suboptimal performance. Consequently, it is critical to balance the trade-off between performance (benefits) and computational costs (budgets), giving rise to the concept of reasoning economy. In this survey, we provide a comprehensive analysis of reasoning economy in both the post-training and test-time inference stages of LLMs, encompassing i) the cause of reasoning inefficiency, ii) behavior analysis of different reasoning patterns, and iii) potential solutions to achieve reasoning economy. By offering actionable insights and highlighting open challenges, we aim to shed light on strategies for improving the reasoning economy of LLMs, thereby serving as a valuable resource for advancing research in this evolving area. We also provide a public repository to continually track developments in this fast-evolving field.