Efficiënte Inferentie voor Grote Redeneermodellen: Een Overzicht

Efficient Inference for Large Reasoning Models: A Survey

March 29, 2025

Auteurs: Yue Liu, Jiaying Wu, Yufei He, Hongcheng Gao, Hongyu Chen, Baolong Bi, Jiaheng Zhang, Zhiqi Huang, Bryan Hooi

cs.AI

Samenvatting

Grote Redeneermodellen (LRMs) verbeteren het redeneervermogen van Grote Taalmodellen (LLMs) aanzienlijk door te leren redeneren, waarbij ze veelbelovende prestaties laten zien bij het oplossen van complexe taken. Hun beredeneerde redeneerproces leidt echter tot inefficiënties in tokengebruik, geheugenverbruik en inferentietijd. Daarom biedt dit overzicht een bespreking van efficiënte inferentiemethoden die specifiek zijn ontworpen voor LRMs, met de focus op het verminderen van tokeninefficiëntie terwijl de redeneerkwaliteit behouden blijft. Eerst introduceren we een taxonomie om de recente methoden in twee hoofd categorieën in te delen: (a) expliciete compacte Chain-of-Thought (CoT), die tokens reduceert terwijl de expliciete redeneerstructuur behouden blijft, en (b) impliciete latente CoT, die redeneerstappen codeert binnen verborgen representaties in plaats van expliciete tokens. Tegelijkertijd bespreken we hun sterke en zwakke punten. Vervolgens voeren we empirische analyses uit op bestaande methoden vanuit prestatie- en efficiëntieperspectieven. Daarnaast presenteren we open uitdagingen op dit gebied, waaronder mensgerichte beheersbare redenering, de afweging tussen interpreteerbaarheid en efficiëntie van redenering, het waarborgen van de veiligheid van efficiënte redenering, en bredere toepassingen van efficiënte redenering. Bovendien benadrukken we belangrijke inzichten voor het verbeteren van de inferentie-efficiëntie van LRMs via technieken zoals modelmerging, nieuwe architecturen en agent routers. We hopen dat dit werk als een waardevolle gids dient, die onderzoekers helpt uitdagingen te overwinnen in dit levendige veldhttps://github.com/yueliu1999/Awesome-Efficient-Inference-for-LRMs.

English

Large Reasoning Models (LRMs) significantly improve the reasoning ability of Large Language Models (LLMs) by learning to reason, exhibiting promising performance in complex task-solving. However, their deliberative reasoning process leads to inefficiencies in token usage, memory consumption, and inference time. Thus, this survey provides a review of efficient inference methods designed specifically for LRMs, focusing on mitigating token inefficiency while preserving the reasoning quality. First, we introduce a taxonomy to group the recent methods into two main categories: (a) explicit compact Chain-of-Thought (CoT), which reduces tokens while keeping the explicit reasoning structure, and (b) implicit latent CoT, which encodes reasoning steps within hidden representations instead of explicit tokens. Meanwhile, we discuss their strengths and weaknesses. Then, we conduct empirical analyses on existing methods from performance and efficiency aspects. Besides, we present open challenges in this field, including human-centric controllable reasoning, trade-off between interpretability and efficiency of reasoning, ensuring safety of efficient reasoning, and broader applications of efficient reasoning. In addition, we highlight key insights for enhancing LRMs' inference efficiency via techniques such as model merging, new architectures, and agent routers. We hope this work serves as a valuable guide, helping researchers overcome challenges in this vibrant fieldhttps://github.com/yueliu1999/Awesome-Efficient-Inference-for-LRMs.