DanceOPD: Destilação de Campo Generativo On-Policy

Resumo

A geração moderna de imagens exige um único modelo que unifique capacidades diversas, incluindo texto para imagem (T2I), edição local e edição global. No entanto, essas capacidades raramente estão alinhadas naturalmente e frequentemente entram em conflito. Por exemplo, a edição tende a degradar o desempenho do T2I, enquanto a edição global e a local interferem entre si. Consequentemente, compor efetivamente essas capacidades tornou-se um desafio central para o treinamento de modelos de geração de imagens. Para enfrentar esse desafio, apresentamos o DanceOPD, uma estrutura de destilação de campo generativo on-policy para modelos de correspondência de fluxo que roteia cada amostra para um campo de capacidade, consulta um estado induzido pelo aluno de baixo ruído e treina com um objetivo simples de velocidade MSE (Erro Quadrático Médio). Com cada fonte de capacidade definida como um campo de velocidade sobre o espaço de estados de fluxo compartilhado, o aluno aprende a partir de campos consultados em seus próprios estados de rollout para compor capacidades especializadas. Essa formulação também absorve campos definidos por operadores, como a orientação livre de classificador (CFG). Experimentos abrangentes em T2I, edição, absorção de campo de realismo e absorção de CFG mostram que nossa abordagem melhora a composição de múltiplas capacidades, fortalecendo as capacidades alvo enquanto preserva a qualidade da geração âncora. Acreditamos que este trabalho estabelece um caminho prático para a destilação de campo generativo em modelos de correspondência de fluxo.

English

Modern image generation demands a single model that unifies diverse capabilities, including text-to-image (T2I), local editing, and global editing. However, these capabilities are rarely naturally aligned and often conflict. For instance, editing tends to degrade T2I performance, while global and local editing interfere with each other. Consequently, effectively composing these capabilities has become a central challenge for image generation model training. To tackle this, we introduce DanceOPD, an on-policy generative field distillation framework for flow-matching models that routes each sample to one capability field, queries one low-noise student-induced state, and trains with a simple velocity MSE objective. With each capability source defined as a velocity field over the shared flow state space, the student learns from fields queried on its own rollout states to compose expert capabilities. This formulation also absorbs operator-defined fields such as classifier-free guidance. Comprehensive experiments on T2I, editing, realism-field absorption, and CFG absorption show that our approach improves multi-capability composition, strengthening target capabilities while preserving anchor generation quality. We believe this work establishes a practical route for generative field distillation in flow-matching models.