Causal-rCM: Uma Receita Aberta Unificada de Teacher-Forcing e Self-Forcing para Destilação de Difusão Autoregressiva na Geração de Vídeo em Streaming e Modelos de Mundo Interativos

Resumo

A difusão de vídeo autorregressiva com transformadores de difusão causal emergiu como um paradigma fundamental para geração de vídeo em streaming em tempo real e modelos de mundo interativos condicionados a ações. Neste trabalho, estendemos o rCM, uma estrutura avançada de destilação de difusão, para a difusão de vídeo autorregressiva. A filosofia central do rCM reside na complementaridade entre as divergências direta e reversa, representadas, respectivamente, pelos modelos de consistência (CMs) e pela destilação por correspondência de distribuições (DMD) na destilação de difusão. Essa filosofia é naturalmente transferida para o contexto autorregressivo, onde o teacher-forcing (TF) fornece um paradigma de treinamento causal offline com divergência direta, enquanto o self-forcing (SF) corresponde a um refinamento on-policy com divergência reversa. Nossas contribuições são: (1) por meio de experimentos extensos, mostramos que o teacher-forcing aplicado a CMs é atualmente o melhor complemento ao self-forcing da DMD como estratégia de inicialização; (2) apresentamos a primeira implementação de CMs em tempo contínuo baseados em teacher-forcing (por exemplo, sCM/MeanFlow) para difusão de vídeo autorregressiva, viabilizada pelo nosso kernel FlashAttention-2 JVP com máscara personalizada, alcançando convergência 10 vezes mais rápida em comparação com CMs em tempo discreto (dCMs); (3) introduzimos o Causal-rCM, uma receita aberta unificada e escalável de algoritmo-infraestrutura de ponta para destilação de difusão e treinamento causal; (4) alcançamos desempenho estado da arte em geração de vídeo em streaming tanto em configurações quadro a quadro quanto em bloco (chunk-wise), utilizando apenas dados sintéticos para treinamento. Notavelmente, nosso modelo causal Wan2.1-1.3B destilado em 2 passos obtém uma pontuação VBench-T2V de 84,63 com apenas 1 ou 2 passos de amostragem. Aplicamos ainda o Causal-rCM ao Cosmos 3, um modelo fundacional mundial omnimodal avançado para IA física com capacidade de geração condicionada a ações, viabilizando um modelo de mundo interativo.

English

Autoregressive video diffusion with causal diffusion transformers has emerged as a major paradigm for real-time streaming video generation and action-conditioned interactive world models. In this work, we extend rCM, an advanced diffusion distillation framework, to autoregressive video diffusion. The core philosophy of rCM lies in the complementarity between forward and reverse divergences, represented by consistency models (CMs) and distribution matching distillation (DMD), respectively, in diffusion distillation. This philosophy naturally carries over to the autoregressive setting, where teacher-forcing (TF) provides an offline, forward-divergence causal training paradigm, while self-forcing (SF) corresponds to an on-policy, reverse-divergence refinement. Our contributions are: (1) through extensive experiments, we show that teacher-forcing CM is currently the best complement to self-forcing DMD as an initialization strategy (2) we present the first implementation of teacher-forcing-based continuous-time CMs (e.g., sCM/MeanFlow) for autoregressive video diffusion, enabled by our custom-mask FlashAttention-2 JVP kernel, achieving 10times faster convergence compared to discrete-time CMs (dCMs) (3) we introduce Causal-rCM, a leading, unified, and scalable algorithm-infrastructure open recipe for diffusion distillation and causal training (4) we achieve state-of-the-art streaming video generation performance in both frame-wise and chunk-wise settings, using only synthetic data for training. Notably, our distilled 2-step causal Wan2.1-1.3B model achieves a VBench-T2V score of 84.63 with only 1 or 2 sampling steps. We further apply Causal-rCM to Cosmos 3, an advanced omnimodal world foundation model for physical AI with action-conditioned generation capability, enabling an interactive world model.