NextFlow : La modélisation séquentielle unifiée active la compréhension et la génération multimodales

NextFlow: Unified Sequential Modeling Activates Multimodal Understanding and Generation

January 5, 2026

papers.authors: Huichao Zhang, Liao Qu, Yiheng Liu, Hang Chen, Yangyang Song, Yongsheng Dong, Shikun Sun, Xian Li, Xu Wang, Yi Jiang, Hu Ye, Bo Chen, Yiming Gao, Peng Liu, Akide Liu, Zhipeng Yang, Qili Deng, Linjie Xing, Jiyang Liu, Zhao Wang, Yang Zhou, Mingcong Liu, Yi Zhang, Qian He, Xiwei Hu, Zhongqi Qi, Jie Shao, Zhiye Fu, Shuai Wang, Fangmin Chen, Xuezhi Chai, Zhihua Wu, Yitong Wang, Zehuan Yuan, Daniel K. Du, Xinglong Wu

cs.AI

papers.abstract

Nous présentons NextFlow, un transformeur autoregressif décodeur unifié entraîné sur 6 000 milliards de jetons discrets texte-image entrelacés. En exploitant une représentation visuelle unifiée au sein d'une architecture autoregressive unifiée, NextFlow active nativement des capacités de compréhension et de génération multimodales, déverrouillant des capacités d'édition d'image, de génération de contenu entrelacé et de vidéo. Motivés par la nature distincte des modalités - où le texte est strictement séquentiel et les images intrinsèquement hiérarchiques - nous conservons la prédiction du jeton suivant pour le texte mais adoptons la prédiction d'échelle suivante pour la génération visuelle. Cela s'écarte des méthodes traditionnelles de balayage raster, permettant la génération d'images 1024x1024 en seulement 5 secondes - des ordres de grandeur plus rapide que les modèles AR comparables. Nous abordons les instabilités de la génération multi-échelle grâce à une méthode d'entraînement robuste. De plus, nous introduisons une stratégie de réglage de préfixe pour l'apprentissage par renforcement. Les expériences démontrent que NextFlow atteint des performances à la pointe de l'état de l'art parmi les modèles unifiés et rivalise avec les modèles de référence spécialisés de type diffusion en qualité visuelle.

English

We present NextFlow, a unified decoder-only autoregressive transformer trained on 6 trillion interleaved text-image discrete tokens. By leveraging a unified vision representation within a unified autoregressive architecture, NextFlow natively activates multimodal understanding and generation capabilities, unlocking abilities of image editing, interleaved content and video generation. Motivated by the distinct nature of modalities - where text is strictly sequential and images are inherently hierarchical - we retain next-token prediction for text but adopt next-scale prediction for visual generation. This departs from traditional raster-scan methods, enabling the generation of 1024x1024 images in just 5 seconds - orders of magnitude faster than comparable AR models. We address the instabilities of multi-scale generation through a robust training recipe. Furthermore, we introduce a prefix-tuning strategy for reinforcement learning. Experiments demonstrate that NextFlow achieves state-of-the-art performance among unified models and rivals specialized diffusion baselines in visual quality.