Razonamiento Continuo Multimodal mediante Aprendizaje Variacional Mutuo Asimétrico

Resumen

Los Modelos de Lenguaje Multimodales a Gran Escala (MLLMs) a menudo están limitados por un cuello de botella en el espacio del lenguaje, lo que obliga a realizar un razonamiento visual complejo en tokens discretos que pueden perder matices perceptivos. Una alternativa prometedora es el razonamiento latente continuo, cuyo objetivo es descubrir vías de razonamiento implícitas que conecten la consulta multimodal y la respuesta final. Sin embargo, esto introduce un grave desajuste entrenamiento-inferencia: una posterior de tiempo de entrenamiento, condicionada a la respuesta correcta, puede explotar atajos dependientes de la respuesta. El entrenamiento variacional estándar obliga entonces a la previa de tiempo de inferencia a imitar una posterior que tiene acceso a información no disponible durante la prueba, lo que conduce a un bajo rendimiento. Para abordar esto, proponemos el Aprendizaje Variacional Mutuo Asimétrico (AMVL), un marco que resuelve este desajuste mediante un objetivo de calibración bidireccional. Una divergencia KL directa entrena a la previa independiente del objetivo para que coincida con la posterior, mientras que una divergencia KL inversa novedosa regulariza simultáneamente la posterior, evitando que colapse en regiones incompatibles con la inferencia y mitigando esta "fuga de respuesta". Proporcionamos un análisis teórico que formaliza esta fuga como contaminación de la previa y demostramos que nuestro objetivo de doble KL la reduce. Implementamos AMVL en un MLLM integrado con latencia y mostramos que supera consistentemente a las líneas base sólidas de razonamiento discreto y latente, mejorando la puntuación media en el complejo benchmark BLINK en +10.83 y logrando ganancias de hasta +32.00 en tareas de razonamiento individual, con análisis que confirman una mayor estabilidad del espacio latente.

English

Multimodal Large Language Models (MLLMs) are often constrained by a language-space bottleneck, forcing complex visual reasoning into discrete tokens which can lose perceptual nuance. A promising alternative is continuous latent reasoning, where the goal is to discover implicit reasoning pathways that bridge the multimodal query and the final answer. However, this introduces a severe train-inference mismatch: a training-time posterior, conditioned on the ground-truth answer, can exploit answer-dependent shortcuts. Standard variational training then forces the inference-time prior to mimic a posterior that has access to information unavailable at test time, leading to poor performance. To address this, we propose Asymmetric Mutual Variational Learning (AMVL), a framework that resolves this mismatch via a bidirectional calibration objective. A forward KL divergence trains the target-agnostic prior to match the posterior, while a novel reverse KL divergence simultaneously regularizes the posterior, preventing it from collapsing into inference-incompatible regions and mitigating this ``answer leakage''. We provide theoretical analysis formalizing this leakage as prior contamination and prove that our dual-KL objective reduces it. We instantiate AMVL in a latent-integrated MLLM and show that it consistently outperforms strong discrete and latent-reasoning baselines, improving the average score on the complex BLINK benchmark by +10.83 and achieving gains of up to +32.00 on individual reasoning tasks, with analyses confirming improved latent-space stability.