Consistência de Pares Temporais para Correspondência de Fluxo com Redução de Variância
Temporal Pair Consistency for Variance-Reduced Flow Matching
February 4, 2026
Autores: Chika Maduabuchi, Jindong Wang
cs.AI
Resumo
Os modelos generativos em tempo contínuo, como modelos de difusão, correspondência de fluxo e fluxo retificado, aprendem campos vetoriais dependentes do tempo, mas são tipicamente treinados com objetivos que tratam os intervalos de tempo de forma independente, resultando em alta variância do estimador e amostragem ineficiente. Abordagens anteriores mitigam isso por meio de penalidades de suavidade explícitas, regularização de trajetória ou modificação de caminhos de probabilidade e solvers. Introduzimos o Princípio de Consistência Temporal de Pares (TPC), um princípio leve de redução de variância que acopla previsões de velocidade em intervalos de tempo pareados ao longo do mesmo caminho de probabilidade, operando inteiramente no nível do estimador sem modificar a arquitetura do modelo, o caminho de probabilidade ou o solver. Apresentamos uma análise teórica demonstrando que o TPC induz uma regularização quadrática acoplada à trajetória que comprovadamente reduz a variância do gradiente enquanto preserva o objetivo subjacente de correspondência de fluxo. Instanciado dentro da correspondência de fluxo, o TPC melhora a qualidade e eficiência da amostragem no CIFAR-10 e ImageNet em múltiplas resoluções, alcançando FID mais baixo com custo computacional idêntico ou inferior aos métodos anteriores, e estende-se perfeitamente a pipelines modernos no estilo SOTA com treinamento aumentado por ruído, desruído baseado em pontuação e fluxo retificado.
English
Continuous-time generative models, such as diffusion models, flow matching, and rectified flow, learn time-dependent vector fields but are typically trained with objectives that treat timesteps independently, leading to high estimator variance and inefficient sampling. Prior approaches mitigate this via explicit smoothness penalties, trajectory regularization, or modified probability paths and solvers. We introduce Temporal Pair Consistency (TPC), a lightweight variance-reduction principle that couples velocity predictions at paired timesteps along the same probability path, operating entirely at the estimator level without modifying the model architecture, probability path, or solver. We provide a theoretical analysis showing that TPC induces a quadratic, trajectory-coupled regularization that provably reduces gradient variance while preserving the underlying flow-matching objective. Instantiated within flow matching, TPC improves sample quality and efficiency across CIFAR-10 and ImageNet at multiple resolutions, achieving lower FID at identical or lower computational cost than prior methods, and extends seamlessly to modern SOTA-style pipelines with noise-augmented training, score-based denoising, and rectified flow.