OneFlow: Gleichzeitige gemischt-modale und verschachtelte Generierung mit Bearbeitungsflüssen

OneFlow: Concurrent Mixed-Modal and Interleaved Generation with Edit Flows

October 3, 2025

papers.authors: John Nguyen, Marton Havasi, Tariq Berrada, Luke Zettlemoyer, Ricky T. Q. Chen

cs.AI

papers.abstract

Wir präsentieren OneFlow, das erste nicht-autoregressive multimodale Modell, das eine variabel lange und gleichzeitige gemischt-modale Generierung ermöglicht. Im Gegensatz zu autoregressiven Modellen, die eine starre kausale Abfolge zwischen Text- und Bildgenerierung erzwingen, kombiniert OneFlow einen einfügungsbasierten Edit Flow für diskrete Text-Tokens mit Flow Matching für Bild-Latents. OneFlow ermöglicht eine gleichzeitige Text-Bild-Synthese mit hierarchischem Sampling, das den Inhalt vor die Grammatik stellt. Durch kontrollierte Experimente über Modellgrößen von 1B bis 8B zeigen wir, dass OneFlow autoregressive Baselines sowohl bei Generierungs- als auch bei Verständnisaufgaben übertrifft, während bis zu 50 % weniger Trainings-FLOPs verwendet werden. OneFlow übertrifft sowohl autoregressive als auch diffusionsbasierte Ansätze und erschließt neue Fähigkeiten für gleichzeitige Generierung, iterative Verfeinerung und eine natürliche, vernunftähnliche Generierung.

English

We present OneFlow, the first non-autoregressive multimodal model that enables variable-length and concurrent mixed-modal generation. Unlike autoregressive models that enforce rigid causal ordering between text and image generation, OneFlow combines an insertion-based Edit Flow for discrete text tokens with Flow Matching for image latents. OneFlow enables concurrent text-image synthesis with hierarchical sampling that prioritizes content over grammar. Through controlled experiments across model sizes from 1B to 8B, we demonstrate that OneFlow outperforms autoregressive baselines on both generation and understanding tasks while using up to 50% fewer training FLOPs. OneFlow surpasses both autoregressive and diffusion-based approaches while unlocking new capabilities for concurrent generation, iterative refinement, and natural reasoning-like generation.