Be-Your-Outpainter: Овладение видео-аутпейнтингом через адаптацию, специфичную для ввода

Be-Your-Outpainter: Mastering Video Outpainting through Input-Specific Adaptation

March 20, 2024

Авторы: Fu-Yun Wang, Xiaoshi Wu, Zhaoyang Huang, Xiaoyu Shi, Dazhong Shen, Guanglu Song, Yu Liu, Hongsheng Li

cs.AI

Аннотация

Видео-реставрация представляет собой сложную задачу, направленную на генерацию видеоконтента за пределами области видимости входного видео с сохранением межкадровой и внутрикадровой согласованности. Существующие методы либо не обеспечивают достаточного качества генерации, либо гибкости. Мы представляем MOTIA (Mastering Video Outpainting Through Input-Specific Adaptation) - диффузионную платформу, которая использует как внутренние специфические для данных шаблоны исходного видео, так и генеративный приоритет изображений/видео для эффективной реставрации. MOTIA состоит из двух основных фаз: адаптации к конкретному входу и осознанной шаблонной реставрации. Фаза адаптации к конкретному входу включает проведение эффективного и эффективного обучения псевдо-реставрации на односнимковом исходном видео. Этот процесс побуждает модель идентифицировать и изучать шаблоны в исходном видео, а также сокращает разрыв между стандартными генеративными процессами и реставрацией. Следующая фаза, осознанная шаблонная реставрация, посвящена обобщению этих выученных шаблонов для генерации результатов реставрации. Предлагаются дополнительные стратегии, включая пространственно осознанную вставку и передачу шума, для более эффективного использования генеративного приоритета модели диффузии и выученных видеошаблонов из исходных видео. Обширные оценки подчеркивают превосходство MOTIA, превосходящего существующие передовые методы на широко признанных бенчмарках. Заметим, что эти достижения были получены без необходимости проведения обширной, специфичной для задачи настройки.

English

Video outpainting is a challenging task, aiming at generating video content outside the viewport of the input video while maintaining inter-frame and intra-frame consistency. Existing methods fall short in either generation quality or flexibility. We introduce MOTIA Mastering Video Outpainting Through Input-Specific Adaptation, a diffusion-based pipeline that leverages both the intrinsic data-specific patterns of the source video and the image/video generative prior for effective outpainting. MOTIA comprises two main phases: input-specific adaptation and pattern-aware outpainting. The input-specific adaptation phase involves conducting efficient and effective pseudo outpainting learning on the single-shot source video. This process encourages the model to identify and learn patterns within the source video, as well as bridging the gap between standard generative processes and outpainting. The subsequent phase, pattern-aware outpainting, is dedicated to the generalization of these learned patterns to generate outpainting outcomes. Additional strategies including spatial-aware insertion and noise travel are proposed to better leverage the diffusion model's generative prior and the acquired video patterns from source videos. Extensive evaluations underscore MOTIA's superiority, outperforming existing state-of-the-art methods in widely recognized benchmarks. Notably, these advancements are achieved without necessitating extensive, task-specific tuning.