PETS: Принципиальная основа для оптимального распределения траекторий при эффективной самосогласованности на этапе тестирования

PETS: A Principled Framework Towards Optimal Trajectory Allocation for Efficient Test-Time Self-Consistency

February 18, 2026

Авторы: Zhangyi Liu, Huaizhi Qu, Xiaowei Yin, He Sun, Yanjun Han, Tianlong Chen, Zhun Deng

cs.AI

Аннотация

Масштабирование на этапе тестирования позволяет повысить производительность модели за счёт агрегации стохастических траекторий рассуждений. Однако достижение эффективной по выборке самосогласованности при ограниченном бюджете остаётся нерешённой задачей. Мы представляем PETS (Principled and Efficient Test-Time Self-Consistency) — метод, который инициирует принципиальное изучение распределения траекторий через оптимизационную структуру. Ключевым элементом нашего подхода является показатель самосогласованности — новая метрика, определяемая как согласие с мажоритарным голосованием при бесконечном бюджете. Такая формулировка обеспечивает теоретическое обоснование эффективного по выборке распределения на этапе тестирования и делает его доступным для строгого анализа. Мы исследуем как офлайн-, так и онлайн-сценарии. В офлайн-режиме, где все вопросы известны заранее, мы связываем распределение траекторий с краудсорсингом — классической и хорошо разработанной областью — путём моделирования трасс рассуждений как работников. Этот подход позволяет использовать богатую существующую теорию, обеспечивая теоретические гарантии и эффективный алгоритм распределения на основе мажоритарного голосования. В онлайн-режиме потоковой обработки, где вопросы поступают последовательно и распределение должно выполняться на лету, мы предлагаем новый метод, вдохновлённый офлайн-фреймворком. Наш подход адаптирует бюджеты к сложности вопросов, сохраняя при этом строгие теоретические гарантии и вычислительную эффективность. Эксперименты показывают, что PETS стабильно превосходит равномерное распределение. На GPQA PETS демонстрирует идеальную самосогласованность в обоих сценариях, сокращая бюджет выборки до 75% (офлайн) и 55% (онлайн) по сравнению с равномерным распределением. Код доступен по адресу https://github.com/ZDCSlab/PETS.

English

Test-time scaling can improve model performance by aggregating stochastic reasoning trajectories. However, achieving sample-efficient test-time self-consistency under a limited budget remains an open challenge. We introduce PETS (Principled and Efficient Test-TimeSelf-Consistency), which initiates a principled study of trajectory allocation through an optimization framework. Central to our approach is the self-consistency rate, a new measure defined as agreement with the infinite-budget majority vote. This formulation makes sample-efficient test-time allocation theoretically grounded and amenable to rigorous analysis. We study both offline and online settings. In the offline regime, where all questions are known in advance, we connect trajectory allocation to crowdsourcing, a classic and well-developed area, by modeling reasoning traces as workers. This perspective allows us to leverage rich existing theory, yielding theoretical guarantees and an efficient majority-voting-based allocation algorithm. In the online streaming regime, where questions arrive sequentially and allocations must be made on the fly, we propose a novel method inspired by the offline framework. Our approach adapts budgets to question difficulty while preserving strong theoretical guarantees and computational efficiency. Experiments show that PETS consistently outperforms uniform allocation. On GPQA, PETS achieves perfect self-consistency in both settings while reducing the sampling budget by up to 75% (offline) and 55% (online) relative to uniform allocation. Code is available at https://github.com/ZDCSlab/PETS.