SDXL-Lightning: Progressieve Adversariële Diffusiedistillatie

SDXL-Lightning: Progressive Adversarial Diffusion Distillation

February 21, 2024

Auteurs: Shanchuan Lin, Anran Wang, Xiao Yang

cs.AI

Samenvatting

Wij stellen een diffusiedistillatiemethode voor die een nieuwe staat-van-de-kunst bereikt in één-stap/weinig-stappen 1024px tekst-naar-beeldgeneratie gebaseerd op SDXL. Onze methode combineert progressieve en adversariële distillatie om een balans te bereiken tussen kwaliteit en modusdekking. In dit artikel bespreken we de theoretische analyse, discriminatorontwerp, modelformulering en trainingstechnieken. Wij maken onze gedistilleerde SDXL-Lightning-modellen open source, zowel als LoRA als volledige UNet-gewichten.

English

We propose a diffusion distillation method that achieves new state-of-the-art in one-step/few-step 1024px text-to-image generation based on SDXL. Our method combines progressive and adversarial distillation to achieve a balance between quality and mode coverage. In this paper, we discuss the theoretical analysis, discriminator design, model formulation, and training techniques. We open-source our distilled SDXL-Lightning models both as LoRA and full UNet weights.