Laat Pixels Dansen: Generatie van Video's met Hoog Dynamisch Bereik

Make Pixels Dance: High-Dynamic Video Generation

November 18, 2023

Auteurs: Yan Zeng, Guoqiang Wei, Jiani Zheng, Jiaxin Zou, Yang Wei, Yuchen Zhang, Hang Li

cs.AI

Samenvatting

Het creëren van hoog-dynamische video's, zoals acties met veel beweging en geavanceerde visuele effecten, vormt een aanzienlijke uitdaging op het gebied van kunstmatige intelligentie. Helaas produceren de huidige state-of-the-art methoden voor videogeneratie, die zich voornamelijk richten op tekst-naar-video-generatie, vaak videoclips met minimale bewegingen, ondanks het behoud van een hoge kwaliteit. Wij stellen dat het uitsluitend vertrouwen op tekstinstructies ontoereikend en suboptimaal is voor videogeneratie. In dit artikel introduceren we PixelDance, een nieuwe aanpak gebaseerd op diffusiemodellen die beeldinstructies voor zowel het eerste als het laatste frame combineert met tekstinstructies voor videogeneratie. Uitgebreide experimentele resultaten tonen aan dat PixelDance, getraind met openbare data, aanzienlijk beter presteert in het synthetiseren van video's met complexe scènes en ingewikkelde bewegingen, waardoor een nieuwe standaard wordt gezet voor videogeneratie.

English

Creating high-dynamic videos such as motion-rich actions and sophisticated visual effects poses a significant challenge in the field of artificial intelligence. Unfortunately, current state-of-the-art video generation methods, primarily focusing on text-to-video generation, tend to produce video clips with minimal motions despite maintaining high fidelity. We argue that relying solely on text instructions is insufficient and suboptimal for video generation. In this paper, we introduce PixelDance, a novel approach based on diffusion models that incorporates image instructions for both the first and last frames in conjunction with text instructions for video generation. Comprehensive experimental results demonstrate that PixelDance trained with public data exhibits significantly better proficiency in synthesizing videos with complex scenes and intricate motions, setting a new standard for video generation.