Sei-dein-Outpainter: Beherrschung der Videoretusche durch anpassungsspezifische Anpassung

Be-Your-Outpainter: Mastering Video Outpainting through Input-Specific Adaptation

March 20, 2024

Autoren: Fu-Yun Wang, Xiaoshi Wu, Zhaoyang Huang, Xiaoyu Shi, Dazhong Shen, Guanglu Song, Yu Liu, Hongsheng Li

cs.AI

Zusammenfassung

Die Videoretusche ist eine anspruchsvolle Aufgabe, die darauf abzielt, Videoinhalte außerhalb des Sichtbereichs des Eingangsvideos zu generieren, während die Inter-Frame- und Intra-Frame-Konsistenz erhalten bleibt. Bestehende Methoden erreichen entweder nicht die gewünschte Generierungsqualität oder Flexibilität. Wir stellen MOTIA (Mastering Video Outpainting Through Input-Specific Adaptation) vor, eine auf Diffusion basierende Pipeline, die sowohl die intrinsischen datenspezifischen Muster des Quellvideos als auch die Bild- und Video-generative Voraussetzung für effektive Retusche nutzt. MOTIA besteht aus zwei Hauptphasen: der Eingangsspezifischen Anpassung und der Musterbewussten Retusche. Die Phase der Eingangsspezifischen Anpassung beinhaltet die effiziente und effektive Pseudo-Retusche-Lernphase des Einzelaufnahme-Quellvideos. Dieser Prozess ermutigt das Modell, Muster im Quellvideo zu identifizieren und zu erlernen, sowie die Kluft zwischen standardmäßigen generativen Prozessen und Retusche zu überbrücken. Die nachfolgende Phase, die Musterbewusste Retusche, widmet sich der Verallgemeinerung dieser erlernten Muster zur Generierung von Retusche-Ergebnissen. Zusätzliche Strategien wie die räumlich bewusste Einfügung und Rauschreisen werden vorgeschlagen, um das generative Vorwissen des Diffusionsmodells und die erworbenen Videomuster aus den Quellvideos besser zu nutzen. Umfangreiche Bewertungen unterstreichen die Überlegenheit von MOTIA und übertreffen bestehende State-of-the-Art-Methoden in weit verbreiteten Benchmarks. Diese Fortschritte werden bemerkenswerterweise ohne umfangreiche, aufgabenspezifische Feinabstimmung erreicht.

English

Video outpainting is a challenging task, aiming at generating video content outside the viewport of the input video while maintaining inter-frame and intra-frame consistency. Existing methods fall short in either generation quality or flexibility. We introduce MOTIA Mastering Video Outpainting Through Input-Specific Adaptation, a diffusion-based pipeline that leverages both the intrinsic data-specific patterns of the source video and the image/video generative prior for effective outpainting. MOTIA comprises two main phases: input-specific adaptation and pattern-aware outpainting. The input-specific adaptation phase involves conducting efficient and effective pseudo outpainting learning on the single-shot source video. This process encourages the model to identify and learn patterns within the source video, as well as bridging the gap between standard generative processes and outpainting. The subsequent phase, pattern-aware outpainting, is dedicated to the generalization of these learned patterns to generate outpainting outcomes. Additional strategies including spatial-aware insertion and noise travel are proposed to better leverage the diffusion model's generative prior and the acquired video patterns from source videos. Extensive evaluations underscore MOTIA's superiority, outperforming existing state-of-the-art methods in widely recognized benchmarks. Notably, these advancements are achieved without necessitating extensive, task-specific tuning.