Stroomlijn en Versnel: Efficiënte One-Step Generatieve Modellering via MeanFlow op Gerectificeerde Trajecten
Flow Straighter and Faster: Efficient One-Step Generative Modeling via MeanFlow on Rectified Trajectories
November 28, 2025
Auteurs: Xinxi Zhang, Shiwei Tan, Quang Nguyen, Quan Dao, Ligong Han, Xiaoxiao He, Tunyu Zhang, Alen Mrdovic, Dimitris Metaxas
cs.AI
Samenvatting
Flow-gebaseerde generatieve modellen hebben recentelijk sterke prestaties gedemonstreerd, maar sampling vereist doorgaans kostbare numerieke integratie van gewone differentiaalvergelijkingen (GDV's). Rectified Flow maakt one-step sampling mogelijk door bijna rechte kanspaden te leren, maar het bereiken van zulke rechtlijnigheid vereist meerdere rekenintensieve reflow-iteraties. MeanFlow bereikt one-step generatie door direct de gemiddelde snelheid over tijd te modelleren; wanneer het echter wordt getraind op sterk gebogen flows, lijdt het onder trage convergentie en ruisvolle supervisie. Om deze beperkingen aan te pakken, stellen we Rectified MeanFlow voor, een raamwerk dat het gemiddelde snelheidsveld langs het gecorrigeerde traject modelleert met slechts één reflow-stap. Dit elimineert de noodzaak van perfect rechtgetrokken trajecten en maakt tegelijk efficiënte training mogelijk. Verder introduceren we een eenvoudige maar effectieve truncatieheuristiek die resterende kromming vermindert en de prestaties verder verbetert. Uitgebreide experimenten op ImageNet bij 64, 256 en 512 resoluties tonen aan dat Re-MeanFlow consistent superieure prestaties levert vergeleken met eerdere one-step flow-distillatie- en Rectified Flow-methoden, zowel in samplekwaliteit als trainingsrendement. Code is beschikbaar op https://github.com/Xinxi-Zhang/Re-MeanFlow.
English
Flow-based generative models have recently demonstrated strong performance, yet sampling typically relies on expensive numerical integration of ordinary differential equations (ODEs). Rectified Flow enables one-step sampling by learning nearly straight probability paths, but achieving such straightness requires multiple computationally intensive reflow iterations. MeanFlow achieves one-step generation by directly modeling the average velocity over time; however, when trained on highly curved flows, it suffers from slow convergence and noisy supervision. To address these limitations, we propose Rectified MeanFlow, a framework that models the mean velocity field along the rectified trajectory using only a single reflow step. This eliminates the need for perfectly straightened trajectories while enabling efficient training. Furthermore, we introduce a simple yet effective truncation heuristic that aims to reduce residual curvature and further improve performance. Extensive experiments on ImageNet at 64, 256, and 512 resolutions show that Re-MeanFlow consistently outperforms prior one-step flow distillation and Rectified Flow methods in both sample quality and training efficiency. Code is available at https://github.com/Xinxi-Zhang/Re-MeanFlow.