PETS: Ein Prinzipienbasiertes Framework für die Optimale Trajektorienzuweisung zur Effizienten Selbstkonsistenz zur Testzeit

PETS: A Principled Framework Towards Optimal Trajectory Allocation for Efficient Test-Time Self-Consistency

February 18, 2026

Autoren: Zhangyi Liu, Huaizhi Qu, Xiaowei Yin, He Sun, Yanjun Han, Tianlong Chen, Zhun Deng

cs.AI

Zusammenfassung

Test-Time-Scaling kann die Modellleistung durch die Aggregation stochastischer Reasoning-Pfade verbessern. Die Erzielung einer probeneffizienten Test-Time-Self-Consistency bei begrenztem Budget bleibt jedoch eine ungelöste Herausforderung. Wir stellen PETS (Principled and Efficient Test-Time Self-Consistency) vor, das eine prinzipielle Untersuchung der Pfadallokation durch einen Optimierungsrahmen initiiert. Zentrale Bedeutung für unseren Ansatz hat die Self-Consistency-Rate, ein neues Maß, das als Übereinstimmung mit der Mehrheitsentscheidung bei unbegrenztem Budget definiert ist. Diese Formulierung macht eine probeneffiziente Test-Time-Allokation theoretisch fundiert und einer rigorosen Analyse zugänglich. Wir untersuchen sowohl Offline- als auch Online-Szenarien. Im Offline-Regime, bei dem alle Fragen im Voraus bekannt sind, verbinden wir die Pfadallokation mit Crowdsourcing, einem klassischen und gut entwickelten Bereich, indem wir Reasoning-Spuren als Arbeiter modellieren. Diese Perspektive ermöglicht es uns, auf bestehende umfangreiche Theorie zurückzugreifen, was zu theoretischen Garantien und einem effizienten, mehrheitsbasierten Allokationsalgorithmus führt. Im Online-Streaming-Regime, bei dem Fragen sequenziell eintreffen und Allokationen ad hoc vorgenommen werden müssen, schlagen wir eine neuartige Methode vor, die vom Offline-Rahmen inspiriert ist. Unser Ansatz passt die Budgets an den Schwierigkeitsgrad der Frage an und bewahrt dabei starke theoretische Garantien und Recheneffizienz. Experimente zeigen, dass PETS durchgängig eine gleichmäßige Allokation übertrifft. Auf GPQA erreicht PETS in beiden Szenarien eine perfekte Self-Consistency und reduziert gleichzeitig das Stichprobenbudget um bis zu 75 % (Offline) bzw. 55 % (Online) im Vergleich zur gleichmäßigen Allokation. Code ist verfügbar unter https://github.com/ZDCSlab/PETS.

English

Test-time scaling can improve model performance by aggregating stochastic reasoning trajectories. However, achieving sample-efficient test-time self-consistency under a limited budget remains an open challenge. We introduce PETS (Principled and Efficient Test-TimeSelf-Consistency), which initiates a principled study of trajectory allocation through an optimization framework. Central to our approach is the self-consistency rate, a new measure defined as agreement with the infinite-budget majority vote. This formulation makes sample-efficient test-time allocation theoretically grounded and amenable to rigorous analysis. We study both offline and online settings. In the offline regime, where all questions are known in advance, we connect trajectory allocation to crowdsourcing, a classic and well-developed area, by modeling reasoning traces as workers. This perspective allows us to leverage rich existing theory, yielding theoretical guarantees and an efficient majority-voting-based allocation algorithm. In the online streaming regime, where questions arrive sequentially and allocations must be made on the fly, we propose a novel method inspired by the offline framework. Our approach adapts budgets to question difficulty while preserving strong theoretical guarantees and computational efficiency. Experiments show that PETS consistently outperforms uniform allocation. On GPQA, PETS achieves perfect self-consistency in both settings while reducing the sampling budget by up to 75% (offline) and 55% (online) relative to uniform allocation. Code is available at https://github.com/ZDCSlab/PETS.