Consistance des paires temporelles pour l'appariement des flux à variance réduite
Temporal Pair Consistency for Variance-Reduced Flow Matching
February 4, 2026
papers.authors: Chika Maduabuchi, Jindong Wang
cs.AI
papers.abstract
Les modèles génératifs en temps continu, tels que les modèles de diffusion, le *flow matching* et le *rectified flow*, apprennent des champs de vecteurs dépendants du temps, mais sont généralement entraînés avec des objectifs qui traitent les pas de temps indépendamment, ce qui entraîne une variance élevée de l'estimateur et un échantillonnage inefficace. Les approches antérieures atténuent ce problème via des pénalités de régularisation explicites, une régularisation de trajectoire, ou des chemins de probabilité et solveurs modifiés. Nous introduisons la Consistance Temporelle des Paires (TPC), un principe léger de réduction de variance qui couple les prédictions de vitesse à des paires de pas de temps le long du même chemin de probabilité, opérant entièrement au niveau de l'estimateur sans modifier l'architecture du modèle, le chemin de probabilité ou le solveur. Nous fournissons une analyse théorique montrant que TPC induit une régularisation quadratique couplée à la trajectoire qui réduit de manière prouvée la variance du gradient tout en préservant l'objectif sous-jacent de *flow matching*. Instanciée dans le cadre du *flow matching*, TPC améliore la qualité et l'efficacité des échantillons sur CIFAR-10 et ImageNet à plusieurs résolutions, obtenant un FID plus faible à un coût de calcul identique ou inférieur aux méthodes précédentes, et s'étend de manière transparente aux pipelines modernes de type SOTA avec entraînement par augmentation de bruit, débruitage par score et *rectified flow*.
English
Continuous-time generative models, such as diffusion models, flow matching, and rectified flow, learn time-dependent vector fields but are typically trained with objectives that treat timesteps independently, leading to high estimator variance and inefficient sampling. Prior approaches mitigate this via explicit smoothness penalties, trajectory regularization, or modified probability paths and solvers. We introduce Temporal Pair Consistency (TPC), a lightweight variance-reduction principle that couples velocity predictions at paired timesteps along the same probability path, operating entirely at the estimator level without modifying the model architecture, probability path, or solver. We provide a theoretical analysis showing that TPC induces a quadratic, trajectory-coupled regularization that provably reduces gradient variance while preserving the underlying flow-matching objective. Instantiated within flow matching, TPC improves sample quality and efficiency across CIFAR-10 and ImageNet at multiple resolutions, achieving lower FID at identical or lower computational cost than prior methods, and extends seamlessly to modern SOTA-style pipelines with noise-augmented training, score-based denoising, and rectified flow.