生成モデリングのための三体散乱

要旨

現代的な生成モデルは、典型的には敵対的批評器、規定されたノイズからデータへの経路、または自己回帰的因子分解に依存している。これに対して我々は、適切な分布的エネルギーがサンプルレベルの運動を誘導し、一段階生成器に対して直接的な回帰監督を提供できることを示す。生成のための三体散乱モデリング（TBSM）は、エネルギー距離を発射体ごとの定数サイズの相互作用に変換する。各発射体は1つの実データ源に引き寄せられ、独立に生成された1つの源から反発される。発射体とその条件に基づき、その期待値は1/2 D_E^2(P_θ,Q) の2-Wasserstein勾配流速度に等しい。B個の凍結ターゲット事象のバッチはO(B)個のサンプルレベル損失をもたらし、各損失は条件として1つの参照を用いる。これはDrifting Modelsなどの手法で用いられるミニバッチ全体の全対場とは対照的である。この条件付き期待値をオンラインで追跡することで、場のノイズを低減できる。凍結画像特徴における散乱を利用して、TBSMはImageNet-256上で一段階生成器を訓練し、ピクセル空間PixelDiT-XLでFID=2.23、潜在空間DiT-XLでNFE=1でFID=1.63を達成する。我々は拡散関連の監督、Drift類似のダイナミクス、GAN類似の目的関数を関連付ける設計マップを提供する。これらの結果は、追跡散乱が高次元の一段階生成への経路となることを確立する。コード: https://github.com/sp12138/TBSM。

English

Modern generative models typically rely on an adversarial critic, a prescribed noise-to-data path, or an autoregressive factorization. Instead, we show that a proper distributional energy can induce sample-level motion and provide direct regression supervision for a one-step generator. Three-Body Scattering Modeling (TBSM) for generation turns the energy distance into a constant-size per-projectile interaction: each projectile is attracted toward one real source and repelled from one independently generated source. Conditioned on the projectile and its condition, its expectation equals the 2-Wasserstein gradient-flow velocity of frac12D_E^2(P_θ,Q). A batch of B frozen-target events yields O(B) sample-level losses, each using one reference for its condition instead of the minibatch-wide all-pairs field used by methods such as Drifting Models. Tracking this conditional expectation online can reduce field noise. Using scattering in frozen image features, TBSM trains one-step generators on ImageNet-256, achieving FID{}=2.23 with pixel-space PixelDiT-XL and FID{}=1.63 with latent-space DiT-XL at NFE{}=1. We provide a design map relating diffusion-related supervision, Drift-like dynamics, and GAN-like objectives. These results establish tracked scattering as a route to high-dimensional one-step generation. Code: https://github.com/sp12138/TBSM.