MRS: Un Campionatore Veloce per Diffusione a Media Reversibile Basato su Risolutori di ODE e SDE

MRS: A Fast Sampler for Mean Reverting Diffusion based on ODE and SDE Solvers

February 11, 2025

Autori: Ao Li, Wei Fang, Hongbo Zhao, Le Lu, Ge Yang, Minfeng Xu

cs.AI

Abstract

Nelle applicazioni dei modelli di diffusione, la generazione controllabile è di notevole importanza pratica, ma rappresenta anche una sfida significativa. I metodi attuali per la generazione controllabile si concentrano principalmente sulla modifica della funzione di punteggio dei modelli di diffusione, mentre il Mean Reverting (MR) Diffusion modifica direttamente la struttura dell'equazione differenziale stocastica (SDE), rendendo l'incorporazione delle condizioni dell'immagine più semplice e naturale. Tuttavia, gli attuali campionatori veloci senza addestramento non sono direttamente applicabili al MR Diffusion. Di conseguenza, il MR Diffusion richiede centinaia di NFEs (numero di valutazioni di funzione) per ottenere campioni di alta qualità. In questo articolo, proponiamo un nuovo algoritmo denominato MRS (MR Sampler) per ridurre gli NFEs di campionamento del MR Diffusion. Risolviamo l'SDE a tempo inverso e l'equazione differenziale ordinaria del flusso di probabilità (PF-ODE) associata al MR Diffusion, e deriviamo soluzioni semi-analitiche. Le soluzioni consistono in una funzione analitica e in un integrale parametrizzato da una rete neurale. Basandoci su questa soluzione, possiamo generare campioni di alta qualità in un numero inferiore di passaggi. Il nostro approccio non richiede addestramento e supporta tutte le principali parametrizzazioni, inclusa la previsione del rumore, la previsione dei dati e la previsione della velocità. Esperimenti estesi dimostrano che il MR Sampler mantiene un'elevata qualità di campionamento con un'accelerazione da 10 a 20 volte in dieci diverse attività di restauro delle immagini. Il nostro algoritmo accelera la procedura di campionamento del MR Diffusion, rendendolo più pratico nella generazione controllabile.

English

In applications of diffusion models, controllable generation is of practical significance, but is also challenging. Current methods for controllable generation primarily focus on modifying the score function of diffusion models, while Mean Reverting (MR) Diffusion directly modifies the structure of the stochastic differential equation (SDE), making the incorporation of image conditions simpler and more natural. However, current training-free fast samplers are not directly applicable to MR Diffusion. And thus MR Diffusion requires hundreds of NFEs (number of function evaluations) to obtain high-quality samples. In this paper, we propose a new algorithm named MRS (MR Sampler) to reduce the sampling NFEs of MR Diffusion. We solve the reverse-time SDE and the probability flow ordinary differential equation (PF-ODE) associated with MR Diffusion, and derive semi-analytical solutions. The solutions consist of an analytical function and an integral parameterized by a neural network. Based on this solution, we can generate high-quality samples in fewer steps. Our approach does not require training and supports all mainstream parameterizations, including noise prediction, data prediction and velocity prediction. Extensive experiments demonstrate that MR Sampler maintains high sampling quality with a speedup of 10 to 20 times across ten different image restoration tasks. Our algorithm accelerates the sampling procedure of MR Diffusion, making it more practical in controllable generation.