TTS-VAR: Фреймворк масштабирования во время тестирования для визуального авторегрессивного генератора

TTS-VAR: A Test-Time Scaling Framework for Visual Auto-Regressive Generation

July 24, 2025

Авторы: Zhekai Chen, Ruihang Chu, Yukang Chen, Shiwei Zhang, Yujie Wei, Yingya Zhang, Xihui Liu

cs.AI

Аннотация

Масштабирование моделей визуальной генерации имеет решающее значение для создания контента в реальных условиях, однако требует значительных затрат на обучение и вычислительные ресурсы. В качестве альтернативы, масштабирование на этапе тестирования привлекает всё больше внимания благодаря своей ресурсоэффективности и многообещающей производительности. В данной работе мы представляем TTS-VAR — первую универсальную систему масштабирования на этапе тестирования для визуальных авторегрессивных (VAR) моделей, которая моделирует процесс генерации как задачу поиска пути. Для динамического баланса между вычислительной эффективностью и способностью к исследованию мы вводим адаптивный график уменьшения размера пакета на протяжении причинно-следственного процесса генерации. Кроме того, вдохновлённые иерархической генерацией VAR от грубого к детальному на нескольких масштабах, наша система включает два ключевых компонента: (i) На грубых масштабах мы наблюдаем, что сгенерированные токены сложно оценить, что может привести к ошибочному принятию некачественных образцов или отклонению качественных. Заметив, что грубые масштабы содержат достаточную структурную информацию, мы предлагаем поиск разнообразия на основе кластеризации. Он сохраняет структурное разнообразие через кластеризацию семантических признаков, позволяя последующий выбор образцов с более высоким потенциалом. (ii) На детальных масштабах выбор перспективных кандидатов на основе повторной выборки осуществляется с использованием потенциальных оценок, которые определяются как функции вознаграждения, учитывающие историю генерации на нескольких масштабах. Эксперименты с мощной VAR-моделью Infinity демонстрируют значительное улучшение оценки GenEval на 8.7% (с 0.69 до 0.75). Ключевые выводы показывают, что структурные признаки на ранних этапах эффективно влияют на итоговое качество, а эффективность повторной выборки варьируется в зависимости от масштабов генерации. Код доступен по адресу https://github.com/ali-vilab/TTS-VAR.

English

Scaling visual generation models is essential for real-world content creation, yet requires substantial training and computational expenses. Alternatively, test-time scaling has garnered growing attention due to resource efficiency and promising performance. In this work, we present TTS-VAR, the first general test-time scaling framework for visual auto-regressive (VAR) models, modeling the generation process as a path searching problem. To dynamically balance computational efficiency with exploration capacity, we first introduce an adaptive descending batch size schedule throughout the causal generation process. Besides, inspired by VAR's hierarchical coarse-to-fine multi-scale generation, our framework integrates two key components: (i) At coarse scales, we observe that generated tokens are hard for evaluation, possibly leading to erroneous acceptance of inferior samples or rejection of superior samples. Noticing that the coarse scales contain sufficient structural information, we propose clustering-based diversity search. It preserves structural variety through semantic feature clustering, enabling later selection on samples with higher potential. (ii) In fine scales, resampling-based potential selection prioritizes promising candidates using potential scores, which are defined as reward functions incorporating multi-scale generation history. Experiments on the powerful VAR model Infinity show a notable 8.7% GenEval score improvement (from 0.69 to 0.75). Key insights reveal that early-stage structural features effectively influence final quality, and resampling efficacy varies across generation scales. Code is available at https://github.com/ali-vilab/TTS-VAR.