AnimateDiff-Lightning: 크로스 모델 확산 증류

AnimateDiff-Lightning: Cross-Model Diffusion Distillation

March 19, 2024

저자: Shanchuan Lin, Xiao Yang

cs.AI

초록

초고속 비디오 생성을 위한 AnimateDiff-Lightning을 소개합니다. 우리의 모델은 점진적 적대적 확산 증류(progressive adversarial diffusion distillation)를 사용하여 적은 단계의 비디오 생성에서 새로운 최첨단 성능을 달성했습니다. 비디오 모달리티에 적응하기 위해 가한 수정 사항에 대해 논의합니다. 더 나아가, 여러 기본 확산 모델의 확률 흐름을 동시에 증류하여 더 넓은 스타일 호환성을 가진 단일 증류된 모션 모듈을 제안합니다. 우리는 증류된 AnimateDiff-Lightning 모델을 커뮤니티 사용을 위해 공개하게 되어 기쁩니다.

English

We present AnimateDiff-Lightning for lightning-fast video generation. Our model uses progressive adversarial diffusion distillation to achieve new state-of-the-art in few-step video generation. We discuss our modifications to adapt it for the video modality. Furthermore, we propose to simultaneously distill the probability flow of multiple base diffusion models, resulting in a single distilled motion module with broader style compatibility. We are pleased to release our distilled AnimateDiff-Lightning model for the community's use.