PETS: Uma Estrutura Fundamentada para Alocação Ótima de Trajetórias para uma Autoconsistência Eficiente em Tempo de Teste
PETS: A Principled Framework Towards Optimal Trajectory Allocation for Efficient Test-Time Self-Consistency
February 18, 2026
Autores: Zhangyi Liu, Huaizhi Qu, Xiaowei Yin, He Sun, Yanjun Han, Tianlong Chen, Zhun Deng
cs.AI
Resumo
A escala no momento do teste pode melhorar o desempenho do modelo através da agregação de trajetórias de raciocínio estocástico. No entanto, alcançar uma auto-consistência eficiente em termos de amostragem durante o teste sob um orçamento limitado permanece um desafio em aberto. Apresentamos o PETS (Principled and Efficient Test-Time Self-Consistency), que inicia um estudo fundamentado da alocação de trajetórias por meio de uma estrutura de otimização. Central à nossa abordagem é a taxa de auto-consistência, uma nova medida definida como o acordo com o voto majoritário de orçamento infinito. Esta formulação torna a alocação eficiente de amostras no momento do teste teoricamente fundamentada e passível de análise rigorosa. Estudamos ambos os contextos, offline e online. No regime offline, onde todas as questões são conhecidas antecipadamente, conectamos a alocação de trajetórias ao *crowdsourcing*, uma área clássica e bem desenvolvida, modelando os rastros de raciocínio como trabalhadores. Esta perspectiva permite-nos aproveitar a rica teoria existente, obtendo garantias teóricas e um algoritmo de alocação eficiente baseado em voto majoritário. No regime de streaming online, onde as questões chegam sequencialmente e as alocações devem ser feitas instantaneamente, propomos um novo método inspirado na estrutura offline. A nossa abordagem adapta os orçamentos à dificuldade da questão, preservando fortes garantias teóricas e eficiência computacional. Experiências mostram que o PETS supera consistentemente a alocação uniforme. No GPQA, o PETS alcança auto-consistência perfeita em ambos os contextos, enquanto reduz o orçamento de amostragem em até 75% (offline) e 55% (online) em relação à alocação uniforme. O código está disponível em https://github.com/ZDCSlab/PETS.
English
Test-time scaling can improve model performance by aggregating stochastic reasoning trajectories. However, achieving sample-efficient test-time self-consistency under a limited budget remains an open challenge. We introduce PETS (Principled and Efficient Test-TimeSelf-Consistency), which initiates a principled study of trajectory allocation through an optimization framework. Central to our approach is the self-consistency rate, a new measure defined as agreement with the infinite-budget majority vote. This formulation makes sample-efficient test-time allocation theoretically grounded and amenable to rigorous analysis. We study both offline and online settings. In the offline regime, where all questions are known in advance, we connect trajectory allocation to crowdsourcing, a classic and well-developed area, by modeling reasoning traces as workers. This perspective allows us to leverage rich existing theory, yielding theoretical guarantees and an efficient majority-voting-based allocation algorithm. In the online streaming regime, where questions arrive sequentially and allocations must be made on the fly, we propose a novel method inspired by the offline framework. Our approach adapts budgets to question difficulty while preserving strong theoretical guarantees and computational efficiency. Experiments show that PETS consistently outperforms uniform allocation. On GPQA, PETS achieves perfect self-consistency in both settings while reducing the sampling budget by up to 75% (offline) and 55% (online) relative to uniform allocation. Code is available at https://github.com/ZDCSlab/PETS.