Qwen-Image-Flash: Além do Design Objetivo

Resumo

A destilação em poucas etapas tornou-se uma estratégia eficaz para acelerar modelos generativos visuais avançados, embora trabalhos anteriores tenham se concentrado majoritariamente nos objetivos de destilação. Neste estudo, revisitamos a destilação em poucas etapas a partir de uma perspectiva complementar, focando na receita de treinamento que molda criticamente o desempenho do estudante. Utilizando o Qwen-Image-2.0 como caso representativo, investigamos sistematicamente três fatores na destilação unificada de geração de texto para imagem e edição de imagem guiada por instrução: composição dos dados, orientação do professor e mistura de tarefas. Nossa análise empírica revela diversos comportamentos não óbvios, que motivam o desenvolvimento do Qwen-Image-Flash. De modo geral, nossos resultados sugerem que uma destilação eficaz em poucas etapas requer não apenas objetivos cuidadosamente projetados, mas também uma organização criteriosa do pipeline de treinamento mais amplo.

English

Few-step distillation has become an effective strategy for accelerating advanced visual generative models, yet prior work has largely focused on distillation objectives. In this work, we revisit few-step distillation from a complementary perspective, focusing on the training recipe that critically shapes student performance. Using Qwen-Image-2.0 as a representative case, we systematically investigate three factors in unified text-to-image generation and instruction-guided image editing distillation: data composition, teacher guidance, and task mixture. Our empirical analysis reveals several non-obvious behaviors, which motivate the development of Qwen-Image-Flash. Overall, our results suggest that effective few-step distillation requires not only carefully designed objectives, but also principled organization of the broader training pipeline.