Flash-BoN: 拡散モデルにおける推論時スケーリングのための瞬時ドラフト

要旨

テキストから画像生成における推論時スケーリングは、単純なBest-of-N（BoN）サンプリングから、中間ノイズ除去ステップで候補軌跡を検証し誘導する誘導探索手法へと進展してきた。これらのアプローチは、ノイズ除去中にいつ、どの程度の頻度で検証を行うかに焦点を当てているが、生成自体のコストは固定とみなすことが多い。さらに、関数評価回数（NFEs）により手法を比較する標準的な手法は、ノイズ除去の順伝搬のみをカウントし、検証器のオーバーヘッドを無視するため、効率のランキングが歪む可能性がある。実時間評価の下では、単純なBoNが既にいくつかの誘導探索手法と同等かそれ以上であることを示し、計算リソースは反復的な中間検証よりも広範な探索に費やす方が有効であることを示唆する。これによりFlash-BoNが動機づけられる。Flash-BoNは、タイムステップ打ち切り、レイヤースキップ、活性化プロキシという3つの相補的な高速化ノブを組み合わせ、モデルごとに一度最適化された単一の構成により、低コストなドラフト候補の大規模プールを生成する。その後、効率的な多段階検証手順で最も有望なドラフトを特定し、それをフル品質で精緻化する。3つのベンチマークと3つのモデルスケールにおいて、Flash-BoNは固定の実時間予算下で全てのベースラインを一貫して上回り、その利得はモデルスケールが大きくなるほど拡大する（AUC+8%）。さらに、本戦略は既存の直交手法（例えば、反射に基づくプロンプト最適化、AUC+16%）と良好に組み合わせ可能であり、それらを改善することを示す。この利得は候補の多様性の増加と相関しており、これによりドラフト誘導型選択が強化学習後訓練の収束を加速することも可能にする。

English

Inference-time scaling for text-to-image generation has progressed from simple Best-of-N (BoN) sampling to guided search methods that verify and steer candidate trajectories at intermediate denoising steps. These approaches focus on when and how often to verify during denoising but largely treat the cost of generation itself as fixed. Moreover, the standard practice of comparing methods by number of function evaluations (NFEs) counts only denoising forward passes and ignores verifier overhead, which can distort efficiency rankings. We show that under wall-clock evaluation, simple BoN already matches or outperforms several guided search techniques, suggesting that compute is better spent on broader exploration than on repeated intermediate verification. This motivates Flash-BoN, which generates a large pool of inexpensive draft candidates by combining three complementary acceleration knobs: timestep truncation, layer skipping, and activation proxies into a single configuration optimized once per model. An efficient multi-stage verification procedure then identifies the most promising draft, which is refined at full quality. Across three benchmarks and three model scales, Flash-BoN consistently outperforms all baselines under fixed wall-clock budgets, with gains that grow at larger model scales (+8% AUC). We further show that our strategy combines well and improves existing orthogonal techniques such as reflection-based prompt optimization (+16% AUC). The gains correlate with increased candidate diversity, which also enables draft-guided selection to accelerate RL post-training convergence.