Coppia Temporale di Consistenza per il Flow Matching a Varianza Ridotta
Temporal Pair Consistency for Variance-Reduced Flow Matching
February 4, 2026
Autori: Chika Maduabuchi, Jindong Wang
cs.AI
Abstract
I modelli generativi a tempo continuo, come i modelli di diffusione, il flusso di corrispondenza (flow matching) e il flusso rettificato (rectified flow), apprendono campi vettoriali dipendenti dal tempo ma sono tipicamente addestrati con obiettivi che trattano gli istanti temporali in modo indipendente, portando ad un'elevata varianza dello stimatore e a un campionamento inefficiente. Gli approcci precedenti mitigano questo problema mediante penalità esplicite di regolarità, regolarizzazione della traiettoria, o percorsi di probabilità e risolutori modificati. Introduciamo la Consistenza Temporale di Coppia (Temporal Pair Consistency - TPC), un principio leggero di riduzione della varianza che accoppia le previsioni di velocità in coppie di istanti temporali lungo lo stesso percorso di probabilità, operando interamente a livello dello stimatore senza modificare l'architettura del modello, il percorso di probabilità o il risolutore. Forniamo un'analisi teorica che dimostra come TPC induca una regolarizzazione quadratica e accoppiata alla traiettoria, che riduce in modo dimostrabile la varianza del gradiente preservando l'obiettivo sottostante del flusso di corrispondenza. Istanziato all'interno del flusso di corrispondenza, TPC migliora la qualità e l'efficienza del campionamento su CIFAR-10 e ImageNet a risoluzioni multiple, raggiungendo un FID più basso a parità o a minore costo computazionale rispetto ai metodi precedenti, e si estende senza soluzione di continuità a pipeline moderne in stato dell'arte con addestramento arricchito da rumore, denoising basato su score e flusso rettificato.
English
Continuous-time generative models, such as diffusion models, flow matching, and rectified flow, learn time-dependent vector fields but are typically trained with objectives that treat timesteps independently, leading to high estimator variance and inefficient sampling. Prior approaches mitigate this via explicit smoothness penalties, trajectory regularization, or modified probability paths and solvers. We introduce Temporal Pair Consistency (TPC), a lightweight variance-reduction principle that couples velocity predictions at paired timesteps along the same probability path, operating entirely at the estimator level without modifying the model architecture, probability path, or solver. We provide a theoretical analysis showing that TPC induces a quadratic, trajectory-coupled regularization that provably reduces gradient variance while preserving the underlying flow-matching objective. Instantiated within flow matching, TPC improves sample quality and efficiency across CIFAR-10 and ImageNet at multiple resolutions, achieving lower FID at identical or lower computational cost than prior methods, and extends seamlessly to modern SOTA-style pipelines with noise-augmented training, score-based denoising, and rectified flow.