Interpolazione tra immagini con modelli di diffusione

Interpolating between Images with Diffusion Models

July 24, 2023

Autori: Clinton J. Wang, Polina Golland

cs.AI

Abstract

Una frontiera poco esplorata nella generazione e modifica di immagini è il compito di interpolare tra due immagini di input, una funzionalità assente in tutte le pipeline di generazione di immagini attualmente implementate. Sosteniamo che tale funzionalità possa ampliare le applicazioni creative di questi modelli e proponiamo un metodo per l'interpolazione zero-shot utilizzando modelli di diffusione latente. Applichiamo l'interpolazione nello spazio latente a una sequenza di livelli di rumore decrescenti, per poi eseguire la rimozione del rumore condizionata da embedding testuali interpolati derivati dall'inversione testuale e (opzionalmente) dalle pose dei soggetti. Per una maggiore coerenza, o per specificare criteri aggiuntivi, possiamo generare diversi candidati e utilizzare CLIP per selezionare l'immagine di qualità più elevata. Otteniamo interpolazioni convincenti attraverso diverse pose dei soggetti, stili di immagine e contenuti delle immagini, e dimostriamo che le metriche quantitative standard come l'FID sono insufficienti per misurare la qualità di un'interpolazione. Codice e dati sono disponibili all'indirizzo https://clintonjwang.github.io/interpolation.

English

One little-explored frontier of image generation and editing is the task of interpolating between two input images, a feature missing from all currently deployed image generation pipelines. We argue that such a feature can expand the creative applications of such models, and propose a method for zero-shot interpolation using latent diffusion models. We apply interpolation in the latent space at a sequence of decreasing noise levels, then perform denoising conditioned on interpolated text embeddings derived from textual inversion and (optionally) subject poses. For greater consistency, or to specify additional criteria, we can generate several candidates and use CLIP to select the highest quality image. We obtain convincing interpolations across diverse subject poses, image styles, and image content, and show that standard quantitative metrics such as FID are insufficient to measure the quality of an interpolation. Code and data are available at https://clintonjwang.github.io/interpolation.