Inconsistencias en los Modelos de Consistencia: Resolver Ecuaciones Diferenciales Ordinarias de manera más efectiva no implica obtener mejores muestras.

Inconsistencies In Consistency Models: Better ODE Solving Does Not Imply Better Samples

November 13, 2024

Autores: Noël Vouitsis, Rasa Hosseinzadeh, Brendan Leigh Ross, Valentin Villecroze, Satya Krishna Gorti, Jesse C. Cresswell, Gabriel Loaiza-Ganem

cs.AI

Resumen

Aunque los modelos de difusión pueden generar muestras de una calidad notablemente alta, están intrínsecamente limitados por su costoso procedimiento de muestreo iterativo. Los modelos de consistencia (CMs, por sus siglas en inglés) han surgido recientemente como un prometedor método de destilación de modelos de difusión, reduciendo el costo del muestreo al generar muestras de alta fidelidad en solo unas pocas iteraciones. La destilación de modelos de consistencia tiene como objetivo resolver la ecuación diferencial ordinaria (ODE, por sus siglas en inglés) de flujo de probabilidad definida por un modelo de difusión existente. Los CMs no se entrenan directamente para minimizar el error frente a un solucionador de ODE, sino que utilizan un objetivo más computacionalmente manejable. Como una forma de estudiar qué tan efectivamente los CMs resuelven la ODE de flujo de probabilidad, y el efecto que cualquier error inducido tiene en la calidad de las muestras generadas, presentamos los CMs Directos, que minimizan directamente este error. Curiosamente, encontramos que los CMs Directos reducen el error de resolución de la ODE en comparación con los CMs, pero también resultan en una calidad de muestra significativamente peor, cuestionando por qué exactamente los CMs funcionan bien en primer lugar. El código completo está disponible en: https://github.com/layer6ai-labs/direct-cms.

English

Although diffusion models can generate remarkably high-quality samples, they are intrinsically bottlenecked by their expensive iterative sampling procedure. Consistency models (CMs) have recently emerged as a promising diffusion model distillation method, reducing the cost of sampling by generating high-fidelity samples in just a few iterations. Consistency model distillation aims to solve the probability flow ordinary differential equation (ODE) defined by an existing diffusion model. CMs are not directly trained to minimize error against an ODE solver, rather they use a more computationally tractable objective. As a way to study how effectively CMs solve the probability flow ODE, and the effect that any induced error has on the quality of generated samples, we introduce Direct CMs, which directly minimize this error. Intriguingly, we find that Direct CMs reduce the ODE solving error compared to CMs but also result in significantly worse sample quality, calling into question why exactly CMs work well in the first place. Full code is available at: https://github.com/layer6ai-labs/direct-cms.