Be-Your-Outpainter: Dominando la Expansión de Vídeo mediante Adaptación Específica a la Entrada

Be-Your-Outpainter: Mastering Video Outpainting through Input-Specific Adaptation

March 20, 2024

Autores: Fu-Yun Wang, Xiaoshi Wu, Zhaoyang Huang, Xiaoyu Shi, Dazhong Shen, Guanglu Song, Yu Liu, Hongsheng Li

cs.AI

Resumen

El outpainting de video es una tarea desafiante que busca generar contenido de video fuera del área visible del video de entrada, manteniendo la consistencia tanto entre fotogramas como dentro de cada fotograma. Los métodos existentes carecen de calidad de generación o flexibilidad. Presentamos MOTIA (Mastering Video Outpainting Through Input-Specific Adaptation), una pipeline basada en difusión que aprovecha tanto los patrones intrínsecos específicos de los datos del video fuente como el conocimiento previo de generación de imágenes/videos para lograr un outpainting efectivo. MOTIA consta de dos fases principales: adaptación específica a la entrada y outpainting consciente de patrones. La fase de adaptación específica a la entrada implica realizar un aprendizaje eficiente y efectivo de pseudo-outpainting en el video fuente de una sola toma. Este proceso fomenta que el modelo identifique y aprenda los patrones dentro del video fuente, además de cerrar la brecha entre los procesos generativos estándar y el outpainting. La fase posterior, outpainting consciente de patrones, se dedica a generalizar estos patrones aprendidos para generar resultados de outpainting. Se proponen estrategias adicionales, como la inserción espacialmente consciente y el viaje de ruido, para aprovechar mejor el conocimiento previo generativo del modelo de difusión y los patrones de video adquiridos de los videos fuente. Evaluaciones exhaustivas destacan la superioridad de MOTIA, superando a los métodos más avanzados actuales en benchmarks ampliamente reconocidos. Cabe destacar que estos avances se logran sin necesidad de ajustes extensos específicos para la tarea.

English

Video outpainting is a challenging task, aiming at generating video content outside the viewport of the input video while maintaining inter-frame and intra-frame consistency. Existing methods fall short in either generation quality or flexibility. We introduce MOTIA Mastering Video Outpainting Through Input-Specific Adaptation, a diffusion-based pipeline that leverages both the intrinsic data-specific patterns of the source video and the image/video generative prior for effective outpainting. MOTIA comprises two main phases: input-specific adaptation and pattern-aware outpainting. The input-specific adaptation phase involves conducting efficient and effective pseudo outpainting learning on the single-shot source video. This process encourages the model to identify and learn patterns within the source video, as well as bridging the gap between standard generative processes and outpainting. The subsequent phase, pattern-aware outpainting, is dedicated to the generalization of these learned patterns to generate outpainting outcomes. Additional strategies including spatial-aware insertion and noise travel are proposed to better leverage the diffusion model's generative prior and the acquired video patterns from source videos. Extensive evaluations underscore MOTIA's superiority, outperforming existing state-of-the-art methods in widely recognized benchmarks. Notably, these advancements are achieved without necessitating extensive, task-specific tuning.