ピクセルを躍らせよう：高ダイナミックレンジ動画生成

Make Pixels Dance: High-Dynamic Video Generation

November 18, 2023

著者: Yan Zeng, Guoqiang Wei, Jiani Zheng, Jiaxin Zou, Yang Wei, Yuchen Zhang, Hang Li

cs.AI

要旨

モーションが豊富なアクションや高度な視覚効果を含む高ダイナミックな動画の作成は、人工知能の分野において重要な課題となっています。残念ながら、現在の最先端の動画生成手法は、主にテキストから動画を生成することに焦点を当てており、高い忠実度を維持しているものの、最小限の動きしか含まない動画クリップを生成する傾向があります。本論文では、テキスト指示のみに依存する動画生成は不十分であり、最適ではないと主張します。本論文では、拡散モデルに基づく新しいアプローチであるPixelDanceを紹介します。この手法は、動画生成において最初と最後のフレームの画像指示をテキスト指示と組み合わせて使用します。公開データを用いて訓練されたPixelDanceは、複雑なシーンと入り組んだ動きを含む動画を合成する能力が大幅に優れており、動画生成の新たな基準を確立することを包括的な実験結果が示しています。

English

Creating high-dynamic videos such as motion-rich actions and sophisticated visual effects poses a significant challenge in the field of artificial intelligence. Unfortunately, current state-of-the-art video generation methods, primarily focusing on text-to-video generation, tend to produce video clips with minimal motions despite maintaining high fidelity. We argue that relying solely on text instructions is insufficient and suboptimal for video generation. In this paper, we introduce PixelDance, a novel approach based on diffusion models that incorporates image instructions for both the first and last frames in conjunction with text instructions for video generation. Comprehensive experimental results demonstrate that PixelDance trained with public data exhibits significantly better proficiency in synthesizing videos with complex scenes and intricate motions, setting a new standard for video generation.