Faça os Pixels Dançarem: Geração de Vídeo de Alta Dinâmica

Make Pixels Dance: High-Dynamic Video Generation

November 18, 2023

Autores: Yan Zeng, Guoqiang Wei, Jiani Zheng, Jiaxin Zou, Yang Wei, Yuchen Zhang, Hang Li

cs.AI

Resumo

A criação de vídeos de alta dinâmica, como ações ricas em movimento e efeitos visuais sofisticados, representa um desafio significativo no campo da inteligência artificial. Infelizmente, os métodos atuais de geração de vídeo de última geração, que se concentram principalmente na geração de texto para vídeo, tendem a produzir clipes com movimentos mínimos, apesar de manterem alta fidelidade. Argumentamos que confiar apenas em instruções de texto é insuficiente e subótimo para a geração de vídeo. Neste artigo, apresentamos o PixelDance, uma abordagem inovadora baseada em modelos de difusão que incorpora instruções de imagem para o primeiro e o último quadro, juntamente com instruções de texto para a geração de vídeo. Resultados experimentais abrangentes demonstram que o PixelDance, treinado com dados públicos, exibe uma proficiência significativamente maior na síntese de vídeos com cenas complexas e movimentos intrincados, estabelecendo um novo padrão para a geração de vídeo.

English

Creating high-dynamic videos such as motion-rich actions and sophisticated visual effects poses a significant challenge in the field of artificial intelligence. Unfortunately, current state-of-the-art video generation methods, primarily focusing on text-to-video generation, tend to produce video clips with minimal motions despite maintaining high fidelity. We argue that relying solely on text instructions is insufficient and suboptimal for video generation. In this paper, we introduce PixelDance, a novel approach based on diffusion models that incorporates image instructions for both the first and last frames in conjunction with text instructions for video generation. Comprehensive experimental results demonstrate that PixelDance trained with public data exhibits significantly better proficiency in synthesizing videos with complex scenes and intricate motions, setting a new standard for video generation.