ParaTempo: 時間的信頼度による効率的な並列推論

要旨

並列推論は、複数の解法経路を探索することで大規模推論モデルの精度とロバスト性を向上させるが、その計算コストは推論の深さとブランチ数に応じて増大する。こうした並列経路を管理する既存手法は、通常、最終回答のコンセンサス、局所的なトークン信頼度、または独立した中間プローブに依存している。しかし、これらのシグナルは、しばしば遅れて得られたり、実際の推論の進捗との関連が弱かったり、動的なブランチレベルの制御にはノイズが多すぎたりする。これらの制限に対処するため、我々はParaTempoを提案する。これはトレーニング不要の非同期並列推論フレームワークである。ParaTempoは、回答空間の収束を測るブランチ局所的な尺度である時間的信頼度によって駆動される。各ブランチは、暫定的な回答確率分布を取得するために定期的にプローブされ、時間的信頼度は、最近の中間プローブが支配的な回答にどの程度鋭く集中しているかを定量化する。十分な証拠が蓄積されると、ParaTempoはこの単一のシグナルに基づいて制御プロセス全体を駆動する。すなわち、低信頼度のブランチは枝刈りされ、支配的な回答にコミットし続けるブランチは早期に終了され、解放された計算リソースは新しいブランチをフォークすることで再割り当てされ、信頼度重み付き投票が集中すると、生成は全体として停止する。推論軌跡間の同期を必要とせず、ParaTempoはブランチレベルの収束に基づいて計算を適応的に割り当てる。挑戦的な数学・科学推論ベンチマークでの実験により、ParaTempoは競争力のある精度を維持しながら、平均レイテンシを21.8～32.2%、総トークン使用量を18.1～30.3%削減することが示された。さらに、時間的信頼度は、トークンレベルおよび瞬間的なシグナルよりも、将来のブランチ収束に対して強い時間的安定性と予測力を示す。

English

Parallel reasoning improves the accuracy and robustness of large reasoning models by exploring multiple solution paths, but its computational cost grows with reasoning depth and branch count. Existing methods for managing these parallel paths typically rely on final-answer consensus, local token confidence, or isolated intermediate probes. However, these signals are often delayed, weakly tied to actual reasoning progress, or too noisy for dynamic, branch-level control. To address these limitations, we introduce ParaTempo, a training-free asynchronous parallel reasoning framework. ParaTempo is driven by temporal confidence, a branch-local measure of answer-space convergence. Each branch is periodically probed for a tentative answer probability distribution, and temporal confidence quantifies how sharply the recent intermediate probes concentrate on a dominant answer. Once sufficient evidence has accumulated, ParaTempo drives its entire control process from this single signal: low-confidence branches are pruned, branches that persistently commit to their dominant answer are retired early, freed computation is reallocated by forking new branches, and generation stops globally once the confidence-weighted vote concentrates. Without requiring synchronization among reasoning trajectories, ParaTempo adaptively allocates computation based on branch-level convergence. Experiments on challenging mathematical and scientific reasoning benchmarks show that ParaTempo reduces average latency by 21.8-32.2% and total token usage by 18.1-30.3% while maintaining competitive accuracy. Moreover, temporal confidence exhibits stronger temporal stability and predictive power for future branch convergence than token-level and instantaneous signals.