Interpoleren tussen afbeeldingen met diffusiemodellen

Interpolating between Images with Diffusion Models

July 24, 2023

Auteurs: Clinton J. Wang, Polina Golland

cs.AI

Samenvatting

Een weinig verkend gebied in beeldgeneratie en -bewerking is de taak van interpolatie tussen twee invoerbeelden, een functie die ontbreekt in alle momenteel ingezette beeldgeneratiepijplijnen. Wij beargumenteren dat een dergelijke functie de creatieve toepassingen van dergelijke modellen kan uitbreiden, en stellen een methode voor voor zero-shot interpolatie met behulp van latente diffusiemodellen. We passen interpolatie toe in de latente ruimte bij een reeks afnemende ruisniveaus, waarna we ruisverwijdering uitvoeren die wordt geconditioneerd op geïnterpoleerde tekstembeddingen afgeleid van tekstuele inversie en (optioneel) onderwerpposes. Voor meer consistentie, of om aanvullende criteria te specificeren, kunnen we meerdere kandidaten genereren en CLIP gebruiken om het beeld van de hoogste kwaliteit te selecteren. We verkrijgen overtuigende interpolaties over diverse onderwerpposes, beeldstijlen en beeldinhoud, en tonen aan dat standaard kwantitatieve metrieken zoals FID onvoldoende zijn om de kwaliteit van een interpolatie te meten. Code en gegevens zijn beschikbaar op https://clintonjwang.github.io/interpolation.

English

One little-explored frontier of image generation and editing is the task of interpolating between two input images, a feature missing from all currently deployed image generation pipelines. We argue that such a feature can expand the creative applications of such models, and propose a method for zero-shot interpolation using latent diffusion models. We apply interpolation in the latent space at a sequence of decreasing noise levels, then perform denoising conditioned on interpolated text embeddings derived from textual inversion and (optionally) subject poses. For greater consistency, or to specify additional criteria, we can generate several candidates and use CLIP to select the highest quality image. We obtain convincing interpolations across diverse subject poses, image styles, and image content, and show that standard quantitative metrics such as FID are insufficient to measure the quality of an interpolation. Code and data are available at https://clintonjwang.github.io/interpolation.