Qwen-Image-Flash : Au-delà de la conception objective

Résumé

La distillation en quelques étapes est devenue une stratégie efficace pour accélérer les modèles génératifs visuels avancés, mais les travaux antérieurs se sont largement concentrés sur les objectifs de distillation. Dans ce travail, nous revisitons la distillation en quelques étapes d'un point de vue complémentaire, en nous concentrant sur la recette d'entraînement qui détermine de manière cruciale la performance du modèle élève. En utilisant Qwen-Image-2.0 comme cas représentatif, nous étudions systématiquement trois facteurs dans la distillation unifiée de génération texte-image et d'édition d'image guidée par instructions : la composition des données, le guidage par le professeur et le mélange des tâches. Notre analyse empirique révèle plusieurs comportements non évidents, qui motivent le développement de Qwen-Image-Flash. Dans l'ensemble, nos résultats suggèrent qu'une distillation efficace en quelques étapes nécessite non seulement des objectifs soigneusement conçus, mais aussi une organisation fondée sur des principes de l'ensemble du pipeline d'entraînement.

English

Few-step distillation has become an effective strategy for accelerating advanced visual generative models, yet prior work has largely focused on distillation objectives. In this work, we revisit few-step distillation from a complementary perspective, focusing on the training recipe that critically shapes student performance. Using Qwen-Image-2.0 as a representative case, we systematically investigate three factors in unified text-to-image generation and instruction-guided image editing distillation: data composition, teacher guidance, and task mixture. Our empirical analysis reveals several non-obvious behaviors, which motivate the development of Qwen-Image-Flash. Overall, our results suggest that effective few-step distillation requires not only carefully designed objectives, but also principled organization of the broader training pipeline.