Escalado en Tiempo de Inferencia para Modelos de Difusión más allá de la Escalación de Pasos de Desruido

Inference-Time Scaling for Diffusion Models beyond Scaling Denoising Steps

January 16, 2025

Autores: Nanye Ma, Shangyuan Tong, Haolin Jia, Hexiang Hu, Yu-Chuan Su, Mingda Zhang, Xuan Yang, Yandong Li, Tommi Jaakkola, Xuhui Jia, Saining Xie

cs.AI

Resumen

Los modelos generativos han tenido un impacto significativo en diversos ámbitos, en gran parte debido a su capacidad de escalar durante el entrenamiento mediante el aumento de datos, recursos computacionales y tamaño del modelo, un fenómeno caracterizado por las leyes de escalamiento. Investigaciones recientes han comenzado a explorar el comportamiento de escalamiento en tiempo de inferencia en Modelos de Lenguaje Grandes (LLMs), revelando cómo el rendimiento puede mejorar aún más con cálculos adicionales durante la inferencia. A diferencia de los LLMs, los modelos de difusión poseen inherentemente la flexibilidad para ajustar la computación en tiempo de inferencia a través del número de pasos de desruido, aunque las mejoras de rendimiento suelen estabilizarse después de unas pocas docenas. En este trabajo, exploramos el comportamiento de escalamiento en tiempo de inferencia de los modelos de difusión más allá del aumento de pasos de desruido e investigamos cómo el rendimiento de generación puede mejorar aún más con una mayor computación. Específicamente, consideramos un problema de búsqueda destinado a identificar mejores ruidos para el proceso de muestreo de difusión. Estructuramos el espacio de diseño a lo largo de dos ejes: los verificadores utilizados para proporcionar retroalimentación y los algoritmos utilizados para encontrar mejores candidatos de ruido. A través de experimentos exhaustivos en benchmarks de generación de imágenes condicionadas por clase y texto, nuestros hallazgos revelan que aumentar la computación en tiempo de inferencia conduce a mejoras sustanciales en la calidad de las muestras generadas por los modelos de difusión, y con la naturaleza complicada de las imágenes, las combinaciones de los componentes en el marco pueden ser elegidas específicamente para cumplir con diferentes escenarios de aplicación.

English

Generative models have made significant impacts across various domains, largely due to their ability to scale during training by increasing data, computational resources, and model size, a phenomenon characterized by the scaling laws. Recent research has begun to explore inference-time scaling behavior in Large Language Models (LLMs), revealing how performance can further improve with additional computation during inference. Unlike LLMs, diffusion models inherently possess the flexibility to adjust inference-time computation via the number of denoising steps, although the performance gains typically flatten after a few dozen. In this work, we explore the inference-time scaling behavior of diffusion models beyond increasing denoising steps and investigate how the generation performance can further improve with increased computation. Specifically, we consider a search problem aimed at identifying better noises for the diffusion sampling process. We structure the design space along two axes: the verifiers used to provide feedback, and the algorithms used to find better noise candidates. Through extensive experiments on class-conditioned and text-conditioned image generation benchmarks, our findings reveal that increasing inference-time compute leads to substantial improvements in the quality of samples generated by diffusion models, and with the complicated nature of images, combinations of the components in the framework can be specifically chosen to conform with different application scenario.