Faites danser les pixels : Génération de vidéos à haute dynamique

Make Pixels Dance: High-Dynamic Video Generation

November 18, 2023

Auteurs: Yan Zeng, Guoqiang Wei, Jiani Zheng, Jiaxin Zou, Yang Wei, Yuchen Zhang, Hang Li

cs.AI

Résumé

La création de vidéos à haute dynamique, telles que des actions riches en mouvements et des effets visuels sophistiqués, représente un défi majeur dans le domaine de l'intelligence artificielle. Malheureusement, les méthodes actuelles de génération de vidéos, principalement axées sur la génération de texte à vidéo, ont tendance à produire des clips vidéo avec des mouvements minimaux malgré une fidélité élevée. Nous soutenons que s'appuyer uniquement sur des instructions textuelles est insuffisant et sous-optimal pour la génération de vidéos. Dans cet article, nous présentons PixelDance, une nouvelle approche basée sur des modèles de diffusion qui intègre des instructions d'image pour les première et dernière images, en conjonction avec des instructions textuelles pour la génération de vidéos. Les résultats expérimentaux complets démontrent que PixelDance, entraîné avec des données publiques, montre une bien meilleure capacité à synthétiser des vidéos avec des scènes complexes et des mouvements détaillés, établissant ainsi une nouvelle norme pour la génération de vidéos.

English

Creating high-dynamic videos such as motion-rich actions and sophisticated visual effects poses a significant challenge in the field of artificial intelligence. Unfortunately, current state-of-the-art video generation methods, primarily focusing on text-to-video generation, tend to produce video clips with minimal motions despite maintaining high fidelity. We argue that relying solely on text instructions is insufficient and suboptimal for video generation. In this paper, we introduce PixelDance, a novel approach based on diffusion models that incorporates image instructions for both the first and last frames in conjunction with text instructions for video generation. Comprehensive experimental results demonstrate that PixelDance trained with public data exhibits significantly better proficiency in synthesizing videos with complex scenes and intricate motions, setting a new standard for video generation.