Interpolación entre imágenes con modelos de difusión

Interpolating between Images with Diffusion Models

July 24, 2023

Autores: Clinton J. Wang, Polina Golland

cs.AI

Resumen

Una frontera poco explorada en la generación y edición de imágenes es la tarea de interpolar entre dos imágenes de entrada, una característica ausente en todas las pipelines de generación de imágenes actualmente implementadas. Argumentamos que esta funcionalidad puede ampliar las aplicaciones creativas de dichos modelos, y proponemos un método para la interpolación en modo zero-shot utilizando modelos de difusión latente. Aplicamos la interpolación en el espacio latente en una secuencia de niveles de ruido decrecientes, luego realizamos un proceso de eliminación de ruido condicionado por embeddings de texto interpolados derivados de inversión textual y (opcionalmente) poses del sujeto. Para mayor consistencia, o para especificar criterios adicionales, podemos generar varios candidatos y utilizar CLIP para seleccionar la imagen de mayor calidad. Obtenemos interpolaciones convincentes en diversas poses de sujetos, estilos de imagen y contenido de imagen, y demostramos que métricas cuantitativas estándar como FID son insuficientes para medir la calidad de una interpolación. El código y los datos están disponibles en https://clintonjwang.github.io/interpolation.

English

One little-explored frontier of image generation and editing is the task of interpolating between two input images, a feature missing from all currently deployed image generation pipelines. We argue that such a feature can expand the creative applications of such models, and propose a method for zero-shot interpolation using latent diffusion models. We apply interpolation in the latent space at a sequence of decreasing noise levels, then perform denoising conditioned on interpolated text embeddings derived from textual inversion and (optionally) subject poses. For greater consistency, or to specify additional criteria, we can generate several candidates and use CLIP to select the highest quality image. We obtain convincing interpolations across diverse subject poses, image styles, and image content, and show that standard quantitative metrics such as FID are insufficient to measure the quality of an interpolation. Code and data are available at https://clintonjwang.github.io/interpolation.