Интерполяция между изображениями с использованием диффузионных моделей

Interpolating between Images with Diffusion Models

July 24, 2023

Авторы: Clinton J. Wang, Polina Golland

cs.AI

Аннотация

Одной из малоизученных областей генерации и редактирования изображений является задача интерполяции между двумя входными изображениями, функция, отсутствующая во всех существующих на данный момент конвейерах генерации изображений. Мы утверждаем, что такая функция может расширить творческие возможности подобных моделей, и предлагаем метод интерполяции в режиме zero-shot с использованием латентных диффузионных моделей. Мы применяем интерполяцию в латентном пространстве на последовательности уменьшающихся уровней шума, а затем выполняем удаление шума, обусловленное интерполированными текстовыми эмбеддингами, полученными с помощью текстовой инверсии и (опционально) поз объектов. Для повышения согласованности или задания дополнительных критериев мы можем генерировать несколько кандидатов и использовать CLIP для выбора изображения наивысшего качества. Мы получаем убедительные результаты интерполяции для различных поз объектов, стилей изображений и их содержания, а также показываем, что стандартные количественные метрики, такие как FID, недостаточны для оценки качества интерполяции. Код и данные доступны по адресу https://clintonjwang.github.io/interpolation.

English

One little-explored frontier of image generation and editing is the task of interpolating between two input images, a feature missing from all currently deployed image generation pipelines. We argue that such a feature can expand the creative applications of such models, and propose a method for zero-shot interpolation using latent diffusion models. We apply interpolation in the latent space at a sequence of decreasing noise levels, then perform denoising conditioned on interpolated text embeddings derived from textual inversion and (optionally) subject poses. For greater consistency, or to specify additional criteria, we can generate several candidates and use CLIP to select the highest quality image. We obtain convincing interpolations across diverse subject poses, image styles, and image content, and show that standard quantitative metrics such as FID are insufficient to measure the quality of an interpolation. Code and data are available at https://clintonjwang.github.io/interpolation.