Hoge getrouwheid tweestaps beeldgeneratie via leraar-uitgelijnde end-to-end distillatie

Samenvatting

Weinige-stap diffusiedestillatie is steeds volwassener geworden voor generatie in 4 tot 8 stappen, maar het verder doorzetten naar 2 stappen blijft uitdagend. In dit werk introduceren we Z-Image Turbo++, een hoogwaardig model voor beeldgeneratie in 2 stappen, gedistilleerd uit de 8-staps Z-Image Turbo leraar. Onze methode pakt de centrale knelpunten aan van de toegenomen taakmoeilijkheid en beperkte modelcapaciteit bij generatie in 2 stappen, door middel van drie eenvoudige maar effectieve ontwerpkeuzes die zijn afgestemd op dit regime. Ten eerste stellen we Distributie-afgestemd Adversarieel Leren voor, waarbij door de leraar gegenereerde afbeeldingen in plaats van externe echte afbeeldingen worden gebruikt als echte monsters voor GAN-training, wat een beter haalbaar en informatiever adversarieel doel oplevert. Ten tweede passen we Stap-ontkoppelde Parametrisering toe, waarbij onafhankelijke modelparameters worden toegewezen aan de twee denoisingstappen om beter aan te sluiten bij hun verschillende capaciteitsvereisten. Ten derde voeren we End-to-end Training met Iteratieve Regularisatie uit, waardoor de eerste stap gradiënten kan ontvangen van de uiteindelijke beeldkwaliteit, terwijl een betekenisvolle tussentijdse generatie behouden blijft via een expliciet stap-1 verlies. Samen verkleinen deze ontwerpen aanzienlijk de kwaliteitskloof tussen generatie in 2 stappen en 8 stappen, zowel in kwalitatieve als kwantitatieve evaluaties. Dit benadrukt het potentieel van zorgvuldig toegesneden distillatiestrategieën voor het verbeteren van de kwaliteit-efficiëntie afweging bij generatie met weinig stappen.

English

Few-step diffusion distillation has become increasingly mature for 4-8-step generation, yet pushing further to 2 steps remains challenging. In this work, we introduce Z-Image Turbo++, a high-quality 2-step image generation model distilled from the 8-step Z-Image Turbo teacher. Our method addresses the central bottlenecks of increased task difficulty and limited model capacity in 2-step generation through three simple but effective design choices tailored to this regime. First, we propose Distribution-Aligned Adversarial Learning, which uses teacher-generated images rather than external real images as real samples for GAN training, providing a more attainable and informative adversarial target. Second, we adopt Step-Decoupled Parameterization, assigning independent model parameters to the two denoising steps to better match their distinct capacity demands. Third, we perform End-to-End Training with Iterative Regularization, allowing the first step to receive gradients from final image quality while preserving a meaningful intermediate generation through an explicit step-1 loss. Together, these designs substantially narrow the quality gap between 2-step and 8-step generation in both qualitative and quantitative evaluations, highlighting the potential of carefully tailored distillation strategies for improving the quality-efficiency trade-off in few-step generation.