ThinkRouter: Эффективное рассуждение за счёт маршрутизации мышления между латентным и дискретным пространствами
ThinkRouter: Efficient Reasoning via Routing Thinking between Latent and Discrete Spaces
February 12, 2026
Авторы: Xin Xu, Tong Yu, Xiang Chen, Haoliang Wang, Julian McAuley, Saayan Mitra
cs.AI
Аннотация
Современные исследования изучают латентные рассуждения для повышения эффективности логического вывода, заменяя явные траектории рассуждений непрерывными представлениями в латентном пространстве, однако их эффективность варьируется в зависимости от условий. Анализ динамики уверенности модели при латентных рассуждениях показывает, что траектории мышления, завершающиеся неверными ответами, содержат меньше шагов с низкой уверенностью, чем траектории, ведущие к правильным ответам. В то же время мы предполагаем, что мягкие эмбеддинги, агрегированные из множества альтернативных мыслей с низкой уверенностью, могут вносить и распространять шум, приводя к высокой уверенности в ненадежных траекториях рассуждений. Мотивированные этими наблюдениями, мы предлагаем ThinkRouter — механизм маршрутизации на этапе вывода, учитывающий уверенность, чтобы избежать высокой уверенности и шума для эффективных рассуждений. ThinkRouter направляет мышление в дискретное пространство токенов, когда уверенность модели низка, и в латентное пространство в противном случае. Многочисленные эксперименты на STEM-задачах и бенчмарках по программированию с использованием различных больших моделей рассуждений демонстрируют, что ThinkRouter превосходит явные цепочки мыслей (CoT), случайную маршрутизацию и латентные рассуждения по точности, достигая в среднем улучшения на 19.70 пунктов в Pass@1, одновременно сокращая длину генерации до 15.55%. Дальнейший всесторонний анализ показывает, что ThinkRouter способен калибровать ошибки, возникающие при явном CoT и латентных рассуждениях, и ускоряет генерацию токена завершения мышления за счет глобального снижения уверенности модели.
English
Recent work explores latent reasoning to improve reasoning efficiency by replacing explicit reasoning trajectories with continuous representations in a latent space, yet its effectiveness varies across settings. Analysis of model confidence dynamics under latent reasoning reveals that thinking trajectories ending in incorrect answers contain fewer low-confidence steps than those ending in correct answers. Meanwhile, we suggest that soft embeddings aggregated by multiple low-confidence thinking alternatives may introduce and propagate noise, leading to high confidence in unreliable reasoning trajectories. Motivated by these observations, ThinkRouter, an inference-time confidence-aware routing mechanism is proposed to avoid high confidence and noise for efficient reasoning. ThinkRouter routes thinking to the discrete token space when model confidence is low, and to the latent space otherwise. Extensive experiments on STEM reasoning and coding benchmarks across diverse large reasoning models demonstrate that ThinkRouter outperforms explicit CoT, random routing, and latent reasoning baselines in terms of accuracy, achieving an average improvement of 19.70 points in Pass@1, while reducing generation length by up to 15.55%. Further comprehensive analysis reveals that ThinkRouter can calibrate errors arising from explicit CoT and latent reasoning, and accelerates end-of-thinking token generation by globally lowering model confidence.