ThinkRouter : Raisonnement efficace par routage de la pensée entre espaces latents et discrets

ThinkRouter: Efficient Reasoning via Routing Thinking between Latent and Discrete Spaces

February 12, 2026

papers.authors: Xin Xu, Tong Yu, Xiang Chen, Haoliang Wang, Julian McAuley, Saayan Mitra

cs.AI

papers.abstract

Des travaux récents explorent le raisonnement latent pour améliorer l'efficacité du raisonnement en remplaçant les trajectoires de raisonnement explicites par des représentations continues dans un espace latent, bien que son efficacité varie selon les contextes. L'analyse de la dynamique de confiance du modèle sous un raisonnement latent révèle que les trajectoires de réflexion se terminant par des réponses incorrectes contiennent moins d'étapes de faible confiance que celles aboutissant à des réponses correctes. Parallèlement, nous suggérons que les embeddings doux agrégés par de multiples alternatives de pensée à faible confiance peuvent introduire et propager du bruit, conduisant à une forte confiance dans des trajectoires de raisonnement peu fiables. Motivé par ces observations, ThinkRouter, un mécanisme de routage sensible à la confiance lors de l'inférence, est proposé pour éviter une confiance élevée et le bruit afin d'obtenir un raisonnement efficace. ThinkRouter achemine la pensée vers l'espace discret des tokens lorsque la confiance du modèle est faible, et vers l'espace latent sinon. Des expériences approfondies sur des benchmarks de raisonnement STEM et de codage, couvrant divers grands modèles de raisonnement, démontrent que ThinkRouter surpasse les bases de référence que sont le CoT explicite, le routage aléatoire et le raisonnement latent en termes de précision, avec une amélioration moyenne de 19,70 points dans Pass@1, tout en réduisant la longueur de génération jusqu'à 15,55 %. Une analyse complémentaire plus poussée révèle que ThinkRouter peut calibrer les erreurs provenant du CoT explicite et du raisonnement latent, et accélère la génération du token de fin de réflexion en abaissant globalement la confiance du modèle.

English

Recent work explores latent reasoning to improve reasoning efficiency by replacing explicit reasoning trajectories with continuous representations in a latent space, yet its effectiveness varies across settings. Analysis of model confidence dynamics under latent reasoning reveals that thinking trajectories ending in incorrect answers contain fewer low-confidence steps than those ending in correct answers. Meanwhile, we suggest that soft embeddings aggregated by multiple low-confidence thinking alternatives may introduce and propagate noise, leading to high confidence in unreliable reasoning trajectories. Motivated by these observations, ThinkRouter, an inference-time confidence-aware routing mechanism is proposed to avoid high confidence and noise for efficient reasoning. ThinkRouter routes thinking to the discrete token space when model confidence is low, and to the latent space otherwise. Extensive experiments on STEM reasoning and coding benchmarks across diverse large reasoning models demonstrate that ThinkRouter outperforms explicit CoT, random routing, and latent reasoning baselines in terms of accuracy, achieving an average improvement of 19.70 points in Pass@1, while reducing generation length by up to 15.55%. Further comprehensive analysis reveals that ThinkRouter can calibrate errors arising from explicit CoT and latent reasoning, and accelerates end-of-thinking token generation by globally lowering model confidence.