LaViDa-R1: Avances en el razonamiento para modelos de lenguaje de difusión multimodal unificados
LaViDa-R1: Advancing Reasoning for Unified Multimodal Diffusion Language Models
February 15, 2026
Autores: Shufan Li, Yuchen Zhu, Jiuxiang Gu, Kangning Liu, Zhe Lin, Yongxin Chen, Molei Tao, Aditya Grover, Jason Kuen
cs.AI
Resumen
Los modelos de lenguaje de difusión (dLLM) han surgido recientemente como una alternativa prometedora a los LLM auto-regresivos. Los trabajos más recientes los han extendido aún más a tareas multimodales de comprensión y generación. En este trabajo, proponemos LaViDa-R1, un dLLM multimodal de razonamiento de propósito general. A diferencia de los trabajos existentes que construyen dLLM de razonamiento mediante aprendizaje por refuerzo específico por tarea, LaViDa-R1 incorpora diversas tareas de comprensión y generación multimodal de manera unificada. En concreto, LaViDa-R1 se construye con un novedoso marco unificado de post-entrenamiento que integra de forma fluida el ajuste fino supervisado (SFT) y el aprendizaje por refuerzo multitarea (RL). Emplea varias técnicas novedosas de entrenamiento, como el forzado de respuestas, la búsqueda en árbol y la estimación de verosimilitud complementaria, para mejorar la eficacia y la escalabilidad. Experimentos exhaustivos demuestran el sólido rendimiento de LaViDa-R1 en una amplia gama de tareas multimodales, que incluyen razonamiento matemático visual, fundamentación intensiva en razonamiento y edición de imágenes.
English
Diffusion language models (dLLMs) recently emerged as a promising alternative to auto-regressive LLMs. The latest works further extended it to multimodal understanding and generation tasks. In this work, we propose LaViDa-R1, a multimodal, general-purpose reasoning dLLM. Unlike existing works that build reasoning dLLMs through task-specific reinforcement learning, LaViDa-R1 incorporates diverse multimodal understanding and generation tasks in a unified manner. In particular, LaViDa-R1 is built with a novel unified post-training framework that seamlessly integrates supervised finetuning (SFT) and multi-task reinforcement learning (RL). It employs several novel training techniques, including answer-forcing, tree search, and complementary likelihood estimation, to enhance effectiveness and scalability. Extensive experiments demonstrate LaViDa-R1's strong performance on a wide range of multimodal tasks, including visual math reasoning, reason-intensive grounding, and image editing.