GAS: Melhorando a Discretização de EDOs de Difusão por meio de um Solucionador Adversarial Generalizado

GAS: Improving Discretization of Diffusion ODEs via Generalized Adversarial Solver

October 20, 2025

Autores: Aleksandr Oganov, Ilya Bykov, Eva Neudachina, Mishan Aliev, Alexander Tolmachev, Alexander Sidorov, Aleksandr Zuev, Andrey Okhotin, Denis Rakitin, Aibek Alanov

cs.AI

Resumo

Embora os modelos de difusão alcancem a melhor qualidade de geração, eles ainda sofrem com amostragem computacionalmente cara. Trabalhos recentes abordam esse problema com métodos de otimização baseados em gradiente que destilam um solucionador ODE de difusão de poucos passos a partir do processo completo de amostragem, reduzindo o número de avaliações de função de dezenas para apenas algumas. No entanto, essas abordagens frequentemente dependem de técnicas de treinamento intrincadas e não se concentram explicitamente em preservar detalhes de alta granularidade. Neste artigo, introduzimos o Solucionador Generalizado: uma parametrização simples do amostrador ODE que não requer truques adicionais de treinamento e melhora a qualidade em relação às abordagens existentes. Além disso, combinamos a perda de destilação original com treinamento adversarial, o que mitiga artefatos e melhora a fidelidade dos detalhes. Chamamos o método resultante de Solucionador Adversarial Generalizado e demonstramos seu desempenho superior em comparação com os métodos existentes de treinamento de solucionadores sob restrições de recursos semelhantes. O código está disponível em https://github.com/3145tttt/GAS.

English

While diffusion models achieve state-of-the-art generation quality, they still suffer from computationally expensive sampling. Recent works address this issue with gradient-based optimization methods that distill a few-step ODE diffusion solver from the full sampling process, reducing the number of function evaluations from dozens to just a few. However, these approaches often rely on intricate training techniques and do not explicitly focus on preserving fine-grained details. In this paper, we introduce the Generalized Solver: a simple parameterization of the ODE sampler that does not require additional training tricks and improves quality over existing approaches. We further combine the original distillation loss with adversarial training, which mitigates artifacts and enhances detail fidelity. We call the resulting method the Generalized Adversarial Solver and demonstrate its superior performance compared to existing solver training methods under similar resource constraints. Code is available at https://github.com/3145tttt/GAS.