Flusso Normalizzatore Bidirezionale: Dai Dati al Rumore e Ritorno

Bidirectional Normalizing Flow: From Data to Noise and Back

December 11, 2025

Autori: Yiyang Lu, Qiao Sun, Xianbang Wang, Zhicheng Jiang, Hanhong Zhao, Kaiming He

cs.AI

Abstract

I Normalizing Flows (NF) si sono affermati come un framework metodologicamente solido per la modellazione generativa. I NF standard consistono in un processo forward e un processo reverse: il processo forward mappa i dati al rumore, mentre il processo reverse genera campioni invertendolo. Le tipiche trasformazioni forward dei NF sono vincolate da un'invertibilità esplicita, garantendo che il processo reverse possa fungere da loro esatta inversa analitica. I recenti sviluppi di TARFlow e delle sue varianti hanno rivitalizzato i metodi NF combinando i Transformer con i flussi autoregressivi, ma hanno anche evidenziato il causal decoding come un collo di bottiglia principale. In questo lavoro, introduciamo il Bidirectional Normalizing Flow (BiFlow), un framework che elimina la necessità di un'inversa analitica esatta. BiFlow apprende un modello reverse che approssima la mapping inversa sottostante da rumore a dati, abilitando funzioni di loss e architetture più flessibili. Esperimenti su ImageNet dimostrano che BiFlow, rispetto alla sua controparte a causal decoding, migliora la qualità della generazione accelerando il campionamento fino a due ordini di grandezza. BiFlow produce risultati all'avanguardia tra i metodi basati su NF e prestazioni competitive tra i metodi a singola valutazione ("1-NFE"). Seguendo i recenti e incoraggianti progressi sui NF, speriamo che il nostro lavoro attiri ulteriore attenzione su questo paradigma classico.

English

Normalizing Flows (NFs) have been established as a principled framework for generative modeling. Standard NFs consist of a forward process and a reverse process: the forward process maps data to noise, while the reverse process generates samples by inverting it. Typical NF forward transformations are constrained by explicit invertibility, ensuring that the reverse process can serve as their exact analytic inverse. Recent developments in TARFlow and its variants have revitalized NF methods by combining Transformers and autoregressive flows, but have also exposed causal decoding as a major bottleneck. In this work, we introduce Bidirectional Normalizing Flow (BiFlow), a framework that removes the need for an exact analytic inverse. BiFlow learns a reverse model that approximates the underlying noise-to-data inverse mapping, enabling more flexible loss functions and architectures. Experiments on ImageNet demonstrate that BiFlow, compared to its causal decoding counterpart, improves generation quality while accelerating sampling by up to two orders of magnitude. BiFlow yields state-of-the-art results among NF-based methods and competitive performance among single-evaluation ("1-NFE") methods. Following recent encouraging progress on NFs, we hope our work will draw further attention to this classical paradigm.