생성 모델링을 위한 삼체 산란

초록

현대 생성 모델은 일반적으로 적대적 판별기, 사전 정의된 잡음-데이터 경로, 또는 자기회귀적 분해에 의존한다. 대신, 우리는 적절한 분포적 에너지가 표본 수준의 움직임을 유도하고 단일 단계 생성기를 위한 직접적인 회귀 감독을 제공할 수 있음을 보인다. 생성을 위한 삼체 산란 모델링(Three-Body Scattering Modeling, TBSM)은 에너지 거리를 일정한 크기의 발사체당 상호작용으로 변환한다: 각 발사체는 하나의 실제 소스에 끌리고 독립적으로 생성된 하나의 소스로부터 반발된다. 발사체와 그 조건이 주어졌을 때, 그 기대값은 ½ D_E²(P_θ,Q)의 2-와서스타인 그래디언트 흐름 속도와 같다. B개의 고정된 타겟 사건으로 구성된 배치는 O(B)개의 표본 수준 손실을 생성하며, 각 손실은 Drifting Models와 같은 방법에서 사용하는 미니배치 전체의 모든 쌍 필드 대신 하나의 참조를 조건으로 사용한다. 이 조건부 기대값을 온라인으로 추적하면 필드 노이즈를 줄일 수 있다. 고정된 이미지 특징에서 산란을 사용하여, TBSM은 ImageNet-256에서 단일 단계 생성기를 훈련시켜, 픽셀 공간 PixelDiT-XL로 FID=2.23을, 잠재 공간 DiT-XL로 NFE=1에서 FID=1.63을 달성한다. 우리는 확산 관련 감독, Drift 유사 동역학, GAN 유사 목적 함수를 연결하는 설계 맵을 제공한다. 이러한 결과는 추적된 산란을 고차원 단일 단계 생성을 위한 경로로 확립한다. 코드: https://github.com/sp12138/TBSM.

English

Modern generative models typically rely on an adversarial critic, a prescribed noise-to-data path, or an autoregressive factorization. Instead, we show that a proper distributional energy can induce sample-level motion and provide direct regression supervision for a one-step generator. Three-Body Scattering Modeling (TBSM) for generation turns the energy distance into a constant-size per-projectile interaction: each projectile is attracted toward one real source and repelled from one independently generated source. Conditioned on the projectile and its condition, its expectation equals the 2-Wasserstein gradient-flow velocity of frac12D_E^2(P_θ,Q). A batch of B frozen-target events yields O(B) sample-level losses, each using one reference for its condition instead of the minibatch-wide all-pairs field used by methods such as Drifting Models. Tracking this conditional expectation online can reduce field noise. Using scattering in frozen image features, TBSM trains one-step generators on ImageNet-256, achieving FID{}=2.23 with pixel-space PixelDiT-XL and FID{}=1.63 with latent-space DiT-XL at NFE{}=1. We provide a design map relating diffusion-related supervision, Drift-like dynamics, and GAN-like objectives. These results establish tracked scattering as a route to high-dimensional one-step generation. Code: https://github.com/sp12138/TBSM.