トークンからアクションへ：情報検索における過剰思考を軽減するステートマシン推論

要旨

Chain-of-Thought (CoT)プロンプティングは、大規模言語モデル（LLM）における複雑な推論を可能にし、情報検索（IR）への応用も含まれています。しかし、これによりモデルが過剰に思考し、過度に長く意味的に冗長なトレースを生成し、ほとんどまたは全く利益をもたらさない「過剰思考」がしばしば発生します。我々はIRにおける2つの主要な課題を特定しました：類似の状態を再訪する冗長な軌跡と、ユーザーの意図から逸脱する誤った推論です。これらに対処するため、我々はState Machine Reasoning（SMR）を提案します。これは、早期停止と細かい制御をサポートする離散的なアクション（Refine、Rerank、Stop）で構成される遷移ベースの推論フレームワークです。BEIRおよびBRIGHTベンチマークでの実験により、SMRが検索性能（nDCG@10）を3.4%向上させ、トークン使用量を74.4%削減することが示されました。SMRは、タスク固有のチューニングを必要とせず、LLMや検索器を横断して汎用性があり、従来のCoT推論に対する実用的な代替手段を提供します。コードと詳細はhttps://github.com/ldilab/SMRで公開されています。

English

Chain-of-Thought (CoT) prompting enables complex reasoning in large language models (LLMs), including applications in information retrieval (IR). However, it often leads to overthinking, where models produce excessively long and semantically redundant traces with little or no benefit. We identify two key challenges in IR: redundant trajectories that revisit similar states and misguided reasoning that diverges from user intent. To address these, we propose State Machine Reasoning (SMR), a transition-based reasoning framework composed of discrete actions (Refine, Rerank, Stop) that support early stopping and fine-grained control. Experiments on the BEIR and BRIGHT benchmarks show that SMR improves retrieval performance (nDCG@10) by 3.4% while reducing token usage by 74.4%. It generalizes across LLMs and retrievers without requiring task-specific tuning, offering a practical alternative to conventional CoT reasoning. The code and details are available at https://github.com/ldilab/SMR.

トークンからアクションへ：情報検索における過剰思考を軽減するステートマシン推論

From Token to Action: State Machine Reasoning to Mitigate Overthinking in Information Retrieval

要旨

Support