効率的な拡散モデル：原理から実践までの包括的調査

Efficient Diffusion Models: A Comprehensive Survey from Principles to Practices

October 15, 2024

著者: Zhiyuan Ma, Yuzhu Zhang, Guoli Jia, Liangliang Zhao, Yichao Ma, Mingjie Ma, Gaofeng Liu, Kaiyan Zhang, Jianjun Li, Bowen Zhou

cs.AI

要旨

近年、最も人気が高く、求められている生成モデルの1つである拡散モデルは、画像合成、ビデオ生成、分子設計、3Dシーンレンダリング、マルチモーダル生成など、さまざまな生成タスクで優れた利点を示し、多くの研究者の関心を引き、彼らの密な理論的原則と信頼性の高い応用実践に依存しています。これらの最近の拡散モデルに関する顕著な成功は、進歩的な設計原則と効率的なアーキテクチャ、トレーニング、推論、展開手法から主に得られています。ただし、これらの原則と実践を総括し、拡散モデルの迅速な理解と適用を支援する包括的で詳細なレビューはまだ存在していません。この調査では、既存の取り組みに新しい効率志向の視点を提供し、主にアーキテクチャ設計、モデルトレーニング、高速推論、信頼性の高い展開における深い原則と効率的な実践に焦点を当て、読者にとってわかりやすい方法で、さらなる理論的研究、アルゴリズムの移行、新しいシナリオでのモデル適用をガイドします。

English

As one of the most popular and sought-after generative models in the recent years, diffusion models have sparked the interests of many researchers and steadily shown excellent advantage in various generative tasks such as image synthesis, video generation, molecule design, 3D scene rendering and multimodal generation, relying on their dense theoretical principles and reliable application practices. The remarkable success of these recent efforts on diffusion models comes largely from progressive design principles and efficient architecture, training, inference, and deployment methodologies. However, there has not been a comprehensive and in-depth review to summarize these principles and practices to help the rapid understanding and application of diffusion models. In this survey, we provide a new efficiency-oriented perspective on these existing efforts, which mainly focuses on the profound principles and efficient practices in architecture designs, model training, fast inference and reliable deployment, to guide further theoretical research, algorithm migration and model application for new scenarios in a reader-friendly way. https://github.com/ponyzym/Efficient-DMs-Survey