LaViDa-R1 : Progrès dans le raisonnement pour les modèles de langage à diffusion multimodale unifiés
LaViDa-R1: Advancing Reasoning for Unified Multimodal Diffusion Language Models
February 15, 2026
papers.authors: Shufan Li, Yuchen Zhu, Jiuxiang Gu, Kangning Liu, Zhe Lin, Yongxin Chen, Molei Tao, Aditya Grover, Jason Kuen
cs.AI
papers.abstract
Les modèles de langage par diffusion (dLLM) sont récemment apparus comme une alternative prometteuse aux LLM auto-régressifs. Les travaux les plus récents les ont étendus aux tâches de compréhension et de génération multimodales. Dans cette étude, nous proposons LaViDa-R1, un dLLM multimodal et polyvalent pour le raisonnement. Contrairement aux approches existantes qui construisent des dLLM de raisonnement via un apprentissage par renforcement spécifique aux tâches, LaViDa-R1 intègre de manière unifiée diverses tâches de compréhension et de génération multimodales. Plus précisément, LaViDa-R1 est développé avec un nouveau cadre d'entraînement postérieur unifié qui intègre de manière transparente le fine-tuning supervisé (SFT) et l'apprentissage par renforcement multi-tâches (RL). Il emploie plusieurs techniques d'entraînement novatrices, incluant le forçage de réponse, la recherche arborescente et l'estimation de vraisemblance complémentaire, pour améliorer l'efficacité et l'évolutivité. Des expérimentations approfondies démontrent les performances solides de LaViDa-R1 sur un large éventail de tâches multimodales, incluant le raisonnement mathématique visuel, l'ancrage raisonné intensif et l'édition d'images.
English
Diffusion language models (dLLMs) recently emerged as a promising alternative to auto-regressive LLMs. The latest works further extended it to multimodal understanding and generation tasks. In this work, we propose LaViDa-R1, a multimodal, general-purpose reasoning dLLM. Unlike existing works that build reasoning dLLMs through task-specific reinforcement learning, LaViDa-R1 incorporates diverse multimodal understanding and generation tasks in a unified manner. In particular, LaViDa-R1 is built with a novel unified post-training framework that seamlessly integrates supervised finetuning (SFT) and multi-task reinforcement learning (RL). It employs several novel training techniques, including answer-forcing, tree search, and complementary likelihood estimation, to enhance effectiveness and scalability. Extensive experiments demonstrate LaViDa-R1's strong performance on a wide range of multimodal tasks, including visual math reasoning, reason-intensive grounding, and image editing.