Interpolando entre Imagens com Modelos de Difusão

Interpolating between Images with Diffusion Models

July 24, 2023

Autores: Clinton J. Wang, Polina Golland

cs.AI

Resumo

Uma fronteira pouco explorada da geração e edição de imagens é a tarefa de interpolar entre duas imagens de entrada, uma funcionalidade ausente em todos os pipelines de geração de imagens atualmente implantados. Argumentamos que tal funcionalidade pode expandir as aplicações criativas desses modelos e propomos um método para interpolação zero-shot usando modelos de difusão latente. Aplicamos a interpolação no espaço latente em uma sequência de níveis decrescentes de ruído, em seguida, realizamos a remoção de ruído condicionada a embeddings de texto interpolados derivados de inversão textual e (opcionalmente) poses do sujeito. Para maior consistência, ou para especificar critérios adicionais, podemos gerar vários candidatos e usar o CLIP para selecionar a imagem de maior qualidade. Obtemos interpolações convincentes em diversas poses de sujeitos, estilos de imagem e conteúdo de imagem, e mostramos que métricas quantitativas padrão, como o FID, são insuficientes para medir a qualidade de uma interpolação. O código e os dados estão disponíveis em https://clintonjwang.github.io/interpolation.

English

One little-explored frontier of image generation and editing is the task of interpolating between two input images, a feature missing from all currently deployed image generation pipelines. We argue that such a feature can expand the creative applications of such models, and propose a method for zero-shot interpolation using latent diffusion models. We apply interpolation in the latent space at a sequence of decreasing noise levels, then perform denoising conditioned on interpolated text embeddings derived from textual inversion and (optionally) subject poses. For greater consistency, or to specify additional criteria, we can generate several candidates and use CLIP to select the highest quality image. We obtain convincing interpolations across diverse subject poses, image styles, and image content, and show that standard quantitative metrics such as FID are insufficient to measure the quality of an interpolation. Code and data are available at https://clintonjwang.github.io/interpolation.