Aspetta, Non Dobbiamo "Aspettare"! Rimuovere i Token di Pensiero Migliora l'Efficienza del Ragionamento

Wait, We Don't Need to "Wait"! Removing Thinking Tokens Improves Reasoning Efficiency

June 10, 2025

Autori: Chenlong Wang, Yuanning Feng, Dongping Chen, Zhaoyang Chu, Ranjay Krishna, Tianyi Zhou

cs.AI

Abstract

I recenti progressi nei modelli di ragionamento su larga scala hanno reso possibile un ragionamento complesso e passo-passo, ma spesso introducono un eccesso di riflessione, producendo output verbosi e ridondanti che compromettono l'efficienza. In questo studio, esaminiamo se l'autoriflessione esplicita, segnalata da token come "Wait" e "Hmm", sia necessaria per un ragionamento avanzato. Proponiamo NoWait, un approccio semplice ma efficace che disabilita l'autoriflessione esplicita sopprimendo questi token durante l'inferenza. Esperimenti estesi su dieci benchmark che coprono compiti di ragionamento testuale, visivo e video dimostrano che NoWait riduce la lunghezza della traiettoria del ragionamento a catena fino al 27%-51% in cinque serie di modelli in stile R1, senza compromettere l'utilità del modello. NoWait offre quindi una soluzione plug-and-play per un ragionamento multimodale efficiente e che preserva l'utilità.

English

Recent advances in large reasoning models have enabled complex, step-by-step reasoning but often introduce significant overthinking, resulting in verbose and redundant outputs that hinder efficiency. In this study, we examine whether explicit self-reflection, signaled by tokens such as "Wait" and "Hmm", is necessary for advanced reasoning. We propose NoWait, a simple yet effective approach that disables explicit self-reflection by suppressing these tokens during inference. Extensive experiments on ten benchmarks across textual, visual, and video reasoning tasks show that NoWait reduces chain-of-thought trajectory length by up to 27%-51% in five R1-style model series, without compromising model utility. NoWait thus offers a plug-and-play solution for efficient and utility-preserving multimodal reasoning.