分類器中心の視点から見た分類器（フリー）ガイダンスの研究

Studying Classifier(-Free) Guidance From a Classifier-Centric Perspective

March 13, 2025

著者: Xiaoming Zhao, Alexander G. Schwing

cs.AI

要旨

Classifier-free guidanceは、ノイズ除去拡散モデルを用いた条件付き生成において定番の手法となっている。しかし、classifier-free guidanceに関する包括的な理解はまだ得られていない。本研究では、classifier-free guidanceに対する新たな視点を提供するため、実証的な調査を行った。具体的には、classifier-free guidanceのみに焦点を当てるのではなく、その起源であるclassifier guidanceに遡り、導出の鍵となる仮定を特定し、分類器の役割を理解するための体系的な研究を行った。その結果、classifier guidanceとclassifier-free guidanceの両方が、条件情報が通常絡み合っており学習が難しい領域である決定境界からノイズ除去拡散軌道を遠ざけることで、条件付き生成を実現していることがわかった。この分類器中心の理解に基づき、我々はflow-matchingに基づく汎用的な後処理ステップを提案し、事前学習済みノイズ除去拡散モデルの学習分布と実データ分布の間のギャップ、特に決定境界周辺でのギャップを縮小する。様々なデータセットでの実験により、提案手法の有効性が検証された。

English

Classifier-free guidance has become a staple for conditional generation with denoising diffusion models. However, a comprehensive understanding of classifier-free guidance is still missing. In this work, we carry out an empirical study to provide a fresh perspective on classifier-free guidance. Concretely, instead of solely focusing on classifier-free guidance, we trace back to the root, i.e., classifier guidance, pinpoint the key assumption for the derivation, and conduct a systematic study to understand the role of the classifier. We find that both classifier guidance and classifier-free guidance achieve conditional generation by pushing the denoising diffusion trajectories away from decision boundaries, i.e., areas where conditional information is usually entangled and is hard to learn. Based on this classifier-centric understanding, we propose a generic postprocessing step built upon flow-matching to shrink the gap between the learned distribution for a pre-trained denoising diffusion model and the real data distribution, majorly around the decision boundaries. Experiments on various datasets verify the effectiveness of the proposed approach.