Flot normalisé bidirectionnel : des données au bruit et retour
Bidirectional Normalizing Flow: From Data to Noise and Back
December 11, 2025
papers.authors: Yiyang Lu, Qiao Sun, Xianbang Wang, Zhicheng Jiang, Hanhong Zhao, Kaiming He
cs.AI
papers.abstract
Les Flots de Normalisation (NFs) se sont imposés comme un cadre théorique solide pour la modélisation générative. Les NFs standard comprennent un processus direct et un processus inverse : le processus direct transforme les données en bruit, tandis que le processus inverse génère des échantillons en l'inversant. Les transformations directes typiques des NFs sont contraintes par une inversibilité explicite, garantissant que le processus inverse puisse servir d'inverse analytique exact. Les développements récents de TARFlow et de ses variantes ont revitalisé les méthodes NF en combinant les Transformers et les flots autorégressifs, mais ont également mis en évidence le décodage causal comme un goulot d'étranglement majeur. Dans ce travail, nous présentons le Flot de Normalisation Bidirectionnel (BiFlow), un cadre qui supprime le besoin d'une inverse analytique exacte. BiFlow apprend un modèle inverse qui approxime le mapping inverse sous-jacent bruit-vers-données, permettant des fonctions de perte et des architectures plus flexibles. Les expériences sur ImageNet démontrent que BiFlow, comparé à sa contrepartie à décodage causal, améliore la qualité de génération tout en accélérant l'échantillonnage jusqu'à deux ordres de grandeur. BiFlow produit des résultats à l'état de l'art parmi les méthodes basées sur les NFs et des performances compétitives parmi les méthodes à évaluation unique (« 1-NFE »). Suite aux progrès encourageants récents sur les NFs, nous espérons que notre travail attirera une attention accrue sur ce paradigme classique.
English
Normalizing Flows (NFs) have been established as a principled framework for generative modeling. Standard NFs consist of a forward process and a reverse process: the forward process maps data to noise, while the reverse process generates samples by inverting it. Typical NF forward transformations are constrained by explicit invertibility, ensuring that the reverse process can serve as their exact analytic inverse. Recent developments in TARFlow and its variants have revitalized NF methods by combining Transformers and autoregressive flows, but have also exposed causal decoding as a major bottleneck. In this work, we introduce Bidirectional Normalizing Flow (BiFlow), a framework that removes the need for an exact analytic inverse. BiFlow learns a reverse model that approximates the underlying noise-to-data inverse mapping, enabling more flexible loss functions and architectures. Experiments on ImageNet demonstrate that BiFlow, compared to its causal decoding counterpart, improves generation quality while accelerating sampling by up to two orders of magnitude. BiFlow yields state-of-the-art results among NF-based methods and competitive performance among single-evaluation ("1-NFE") methods. Following recent encouraging progress on NFs, we hope our work will draw further attention to this classical paradigm.