DanceOPD: On-Policy Generative Felddestillation

Zusammenfassung

Die moderne Bildgenerierung erfordert ein einheitliches Modell, das verschiedene Fähigkeiten vereint, darunter Text-zu-Bild (T2I), lokale Bearbeitung und globale Bearbeitung. Allerdings sind diese Fähigkeiten selten von Natur aus aufeinander abgestimmt und stehen oft im Konflikt. Zum Beispiel neigt die Bearbeitung dazu, die T2I-Leistung zu verschlechtern, während sich globale und lokale Bearbeitung gegenseitig beeinträchtigen. Folglich ist die effektive Kombination dieser Fähigkeiten zu einer zentralen Herausforderung für das Training von Bildgenerierungsmodellen geworden. Um dies zu bewältigen, führen wir DanceOPD ein, ein On-Policy-Generative-Field-Distillation-Framework für Flow-Matching-Modelle, das jede Stichprobe an ein Fähigkeitsfeld weiterleitet, einen rauscharmen schülerinduzierten Zustand abfragt und mit einem einfachen Geschwindigkeits-MSE-Ziel trainiert. Wobei jede Fähigkeitsquelle als Geschwindigkeitsfeld über den gemeinsamen Flow-Zustandsraum definiert ist, lernt der Schüler aus Feldern, die auf seinen eigenen Rollout-Zuständen abgefragt werden, um Expertenfähigkeiten zu komponieren. Diese Formulierung absorbiert auch operator-definierte Felder wie die classifier-free guidance. Umfassende Experimente zu T2I, Bearbeitung, Realismusfeld-Absorption und CFG-Absorption zeigen, dass unser Ansatz die Mehrfachfähigkeitskomposition verbessert, Zielkapazitäten stärkt und gleichzeitig die Qualität der Ankergenerierung bewahrt. Wir glauben, dass diese Arbeit einen praktischen Weg für die Generative-Field-Destillation in Flow-Matching-Modellen aufzeigt.

English

Modern image generation demands a single model that unifies diverse capabilities, including text-to-image (T2I), local editing, and global editing. However, these capabilities are rarely naturally aligned and often conflict. For instance, editing tends to degrade T2I performance, while global and local editing interfere with each other. Consequently, effectively composing these capabilities has become a central challenge for image generation model training. To tackle this, we introduce DanceOPD, an on-policy generative field distillation framework for flow-matching models that routes each sample to one capability field, queries one low-noise student-induced state, and trains with a simple velocity MSE objective. With each capability source defined as a velocity field over the shared flow state space, the student learns from fields queried on its own rollout states to compose expert capabilities. This formulation also absorbs operator-defined fields such as classifier-free guidance. Comprehensive experiments on T2I, editing, realism-field absorption, and CFG absorption show that our approach improves multi-capability composition, strengthening target capabilities while preserving anchor generation quality. We believe this work establishes a practical route for generative field distillation in flow-matching models.