Заставьте пиксели танцевать: генерация видео с высокой динамикой

Make Pixels Dance: High-Dynamic Video Generation

November 18, 2023

Авторы: Yan Zeng, Guoqiang Wei, Jiani Zheng, Jiaxin Zou, Yang Wei, Yuchen Zhang, Hang Li

cs.AI

Аннотация

Создание видео с высокой динамикой, таких как насыщенные действиями сцены и сложные визуальные эффекты, представляет собой значительную задачу в области искусственного интеллекта. К сожалению, современные методы генерации видео, в основном сосредоточенные на преобразовании текста в видео, как правило, создают видеоклипы с минимальным движением, несмотря на сохранение высокой точности. Мы утверждаем, что полагаться исключительно на текстовые инструкции недостаточно и неоптимально для генерации видео. В данной статье мы представляем PixelDance, новый подход, основанный на диффузионных моделях, который включает в себя инструкции в виде изображений для первого и последнего кадров в сочетании с текстовыми инструкциями для генерации видео. Результаты комплексных экспериментов демонстрируют, что PixelDance, обученный на общедоступных данных, значительно лучше справляется с синтезом видео со сложными сценами и замысловатыми движениями, устанавливая новый стандарт в области генерации видео.

English

Creating high-dynamic videos such as motion-rich actions and sophisticated visual effects poses a significant challenge in the field of artificial intelligence. Unfortunately, current state-of-the-art video generation methods, primarily focusing on text-to-video generation, tend to produce video clips with minimal motions despite maintaining high fidelity. We argue that relying solely on text instructions is insufficient and suboptimal for video generation. In this paper, we introduce PixelDance, a novel approach based on diffusion models that incorporates image instructions for both the first and last frames in conjunction with text instructions for video generation. Comprehensive experimental results demonstrate that PixelDance trained with public data exhibits significantly better proficiency in synthesizing videos with complex scenes and intricate motions, setting a new standard for video generation.