Budgetbewuste testtijd-schaalbaarheid via discriminerende verificatie

Budget-aware Test-time Scaling via Discriminative Verification

October 16, 2025

Auteurs: Kyle Montgomery, Sijun Tan, Yuqi Chen, Siyuan Zhuang, Tianjun Zhang, Raluca Ada Popa, Chenguang Wang

cs.AI

Samenvatting

Test-time schaling is een krachtige strategie om de prestaties van grote taalmodellen te verbeteren bij complexe redeneertaken. Hoewel state-of-the-art benaderingen vaak generatieve verifiers gebruiken om de beste oplossing uit een pool van kandidaten te selecteren, brengt deze methode onhoudbare rekenkosten met zich mee, wat de praktische toepasbaarheid beperkt. In dit werk verschuiven we de focus naar een meer budgetbewust paradigma: discriminatieve verificatie. We voeren een grondige empirische analyse uit en tonen aan dat hoewel discriminatieve verifiers in isolatie mogelijk minder presteren, hun combinatie met zelfconsistentie in een hybride aanpak een krachtig en efficiënt test-time schalingsmechanisme creëert. Opmerkelijk is dat deze hybride aanpak, binnen een vast rekenbudget, state-of-the-art generatieve verificatie aanzienlijk overtreft: met een nauwkeurigheid die tot 15,3% hoger ligt op AIME2025. Onze bevindingen bevestigen dat voor praktische, real-world toepassingen, budgetbewuste schaling met discriminatieve verifiers niet alleen een "gratis" upgrade is ten opzichte van zelfconsistentie, maar ook een effectiever en efficiënter alternatief voor kostbare generatieve technieken. Code is beschikbaar op https://github.com/wang-research-lab/verification.

English

Test-time scaling is a powerful strategy for boosting the performance of large language models on complex reasoning tasks. While state-of-the-art approaches often employ generative verifiers to select the best solution from a pool of candidates, this method incurs prohibitive computational costs, limiting its practicality. In this work, we shift the focus to a more budget-aware paradigm: discriminative verification. We conduct a thorough empirical analysis and demonstrate that while discriminative verifiers may underperform in isolation, combining them with self-consistency in a hybrid approach creates a powerful and efficient test-time scaling mechanism. Notably, under a fixed compute budget, this hybrid approach surpasses state-of-the-art generative verification by a significant margin: achieving up to 15.3\% higher accuracy on AIME2025. Our findings establish that for practical, real-world applications, budget-aware scaling with discriminative verifiers is not only a "free" upgrade over self-consistency, but also a more effective and efficient alternative to costly generative techniques. Code is available at https://github.com/wang-research-lab/verification.