Flash-BoN: Sofortentwürfe für die Inferenzzeit-Skalierung in Diffusionsmodellen

Zusammenfassung

Die Inferenzzeit-Skalierung für die Text-zu-Bild-Generierung hat sich vom einfachen Best-of-N (BoN)-Sampling hin zu geführten Suchmethoden entwickelt, die Kandidatentrajektorien in Zwischenschritten des Entrauschens verifizieren und lenken. Diese Ansätze konzentrieren sich darauf, wann und wie oft während des Entrauschens verifiziert wird, behandeln die Kosten der Generierung selbst jedoch weitgehend als fix. Zudem zählt die gängige Praxis, Methoden anhand der Anzahl der Funktionsauswertungen (NFEs) zu vergleichen, nur die Vorwärtsdurchläufe des Entrauschens und ignoriert den Verifikator-Overhead, was Effizienzrankings verzerren kann. Wir zeigen, dass unter Wanduhrzeit-Bewertung einfaches BoN bereits mehrere geführte Suchtechniken erreicht oder übertrifft, was darauf hindeutet, dass Rechenleistung besser in eine breitere Exploration investiert wird als in wiederholte Zwischenverifikationen. Dies motiviert Flash-BoN, das einen großen Pool günstiger Entwurfskandidaten erzeugt, indem es drei komplementäre Beschleunigungshebel kombiniert: Zeitschrittverkürzung, Layer-Überspringen und Aktivierungs-Proxys, die einmal pro Modell in einer einzigen Konfiguration optimiert werden. Ein effizientes mehrstufiges Verifikationsverfahren identifiziert dann den vielversprechendsten Entwurf, der in voller Qualität verfeinert wird. Über drei Benchmarks und drei Modellskalen hinweg übertrifft Flash-BoN unter festen Wanduhrzeit-Budgets durchweg alle Basislinien, wobei die Zuwächse mit größeren Modellskalen wachsen (+8 % AUC). Wir zeigen weiterhin, dass sich unsere Strategie gut mit bestehenden orthogonalen Techniken wie reflectionsbasierter Prompt-Optimierung kombinieren lässt und diese verbessert (+16 % AUC). Die Zuwächse korrelieren mit einer erhöhten Kandidatendiversität, die zudem eine entwurfsgesteuerte Auswahl zur Beschleunigung der RL-Nachtrainingskonvergenz ermöglicht.

English

Inference-time scaling for text-to-image generation has progressed from simple Best-of-N (BoN) sampling to guided search methods that verify and steer candidate trajectories at intermediate denoising steps. These approaches focus on when and how often to verify during denoising but largely treat the cost of generation itself as fixed. Moreover, the standard practice of comparing methods by number of function evaluations (NFEs) counts only denoising forward passes and ignores verifier overhead, which can distort efficiency rankings. We show that under wall-clock evaluation, simple BoN already matches or outperforms several guided search techniques, suggesting that compute is better spent on broader exploration than on repeated intermediate verification. This motivates Flash-BoN, which generates a large pool of inexpensive draft candidates by combining three complementary acceleration knobs: timestep truncation, layer skipping, and activation proxies into a single configuration optimized once per model. An efficient multi-stage verification procedure then identifies the most promising draft, which is refined at full quality. Across three benchmarks and three model scales, Flash-BoN consistently outperforms all baselines under fixed wall-clock budgets, with gains that grow at larger model scales (+8% AUC). We further show that our strategy combines well and improves existing orthogonal techniques such as reflection-based prompt optimization (+16% AUC). The gains correlate with increased candidate diversity, which also enables draft-guided selection to accelerate RL post-training convergence.