PETS: Een Principieel Kader voor Optimale Trajectoriële Toewijzing voor Efficiënte Zelfconsistentie tijdens Testen
PETS: A Principled Framework Towards Optimal Trajectory Allocation for Efficient Test-Time Self-Consistency
February 18, 2026
Auteurs: Zhangyi Liu, Huaizhi Qu, Xiaowei Yin, He Sun, Yanjun Han, Tianlong Chen, Zhun Deng
cs.AI
Samenvatting
Test-time schaling kan modelprestaties verbeteren door stochastische redeneertrajecten te aggregeren. Het bereiken van sample-efficiënte test-time zelfconsistentie onder een beperkt budget blijft echter een onopgeloste uitdaging. Wij introduceren PETS (Principled and Efficient Test-Time Self-Consistency), dat een principieel onderzoek naar trajectallocatie initieert via een optimalisatiekader. Centraal in onze aanpak staat de zelfconsistentiegraad, een nieuwe maatstaf gedefinieerd als de overeenstemming met de meerderheidsstemming bij een oneindig budget. Deze formulering maakt sample-efficiënte test-time allocatie theoretisch onderbouwd en vatbaar voor rigoureuze analyse. Wij bestuderen zowel offline als online settings. In het offline regime, waar alle vragen vooraf bekend zijn, verbinden we trajectallocatie met crowdsourcing, een klassiek en goed ontwikkeld gebied, door redeneersporen te modelleren als werkers. Dit perspectief stelt ons in staat om gebruik te maken van bestaande rijke theorie, wat leidt tot theoretische garanties en een efficiënt op meerderheidsstemming gebaseerd allocatie-algoritme. In het online streaming regime, waar vragen sequentieel arriveren en allocaties direct moeten worden gemaakt, stellen we een nieuwe methode voor, geïnspireerd door het offline kader. Onze aanpast budgets aan de moeilijkheidsgraad van vragen, terwijl sterke theoretische garanties en computationele efficiëntie behouden blijven. Experimenten tonen aan dat PETS consistent beter presteert dan uniforme allocatie. Op GPQA bereikt PETS perfecte zelfconsistentie in beide settings, terwijl het steekproefbudget met tot 75% (offline) en 55% (online) wordt verminderd ten opzichte van uniforme allocatie. Code is beschikbaar op https://github.com/ZDCSlab/PETS.
English
Test-time scaling can improve model performance by aggregating stochastic reasoning trajectories. However, achieving sample-efficient test-time self-consistency under a limited budget remains an open challenge. We introduce PETS (Principled and Efficient Test-TimeSelf-Consistency), which initiates a principled study of trajectory allocation through an optimization framework. Central to our approach is the self-consistency rate, a new measure defined as agreement with the infinite-budget majority vote. This formulation makes sample-efficient test-time allocation theoretically grounded and amenable to rigorous analysis. We study both offline and online settings. In the offline regime, where all questions are known in advance, we connect trajectory allocation to crowdsourcing, a classic and well-developed area, by modeling reasoning traces as workers. This perspective allows us to leverage rich existing theory, yielding theoretical guarantees and an efficient majority-voting-based allocation algorithm. In the online streaming regime, where questions arrive sequentially and allocations must be made on the fly, we propose a novel method inspired by the offline framework. Our approach adapts budgets to question difficulty while preserving strong theoretical guarantees and computational efficiency. Experiments show that PETS consistently outperforms uniform allocation. On GPQA, PETS achieves perfect self-consistency in both settings while reducing the sampling budget by up to 75% (offline) and 55% (online) relative to uniform allocation. Code is available at https://github.com/ZDCSlab/PETS.