Multimodales kontinuierliches Reasoning durch asymmetrisches gegenseitiges variationales Lernen

Zusammenfassung

Multimodale große Sprachmodelle (MLLMs) werden oft durch einen Engpass im Sprachraum eingeschränkt, der komplexes visuelles Denken in diskrete Token zwingt, wodurch perzeptuelle Nuancen verloren gehen können. Eine vielversprechende Alternative ist das kontinuierliche latente Denken, bei dem das Ziel darin besteht, implizite Denkpfade zu entdecken, die die multimodale Anfrage mit der endgültigen Antwort verbinden. Dies führt jedoch zu einer schwerwiegenden Trainings-Inferenz-Diskrepanz: Ein Posterior während des Trainings, das von der Ground-Truth-Antwort abhängt, kann Antwortspezifische Abkürzungen ausnutzen. Standardmäßiges Variationstraining zwingt dann das Inferenz-Prior, ein Posterior zu imitieren, das auf Informationen zugreift, die zur Testzeit nicht verfügbar sind, was zu schlechter Leistung führt. Um dies zu adressieren, schlagen wir Asymmetrisches Wechselseitiges Variationslernen (AMVL) vor, ein Rahmenwerk, das diese Diskrepanz durch ein bidirektionales Kalibrierungsziel auflöst. Eine Vorwärts-KL-Divergenz trainiert das zielunabhängige Prior, das Posterior zu matchen, während eine neuartige Rückwärts-KL-Divergenz gleichzeitig das Posterior regularisiert, verhindert, dass es in inferenzinkompatible Bereiche kollabiert, und dieses "Antwort-Leak" abschwächt. Wir liefern eine theoretische Analyse, die dieses Leak als Kontamination des Priors formalisiert, und beweisen, dass unser duales KL-Ziel es reduziert. Wir setzen AMVL in einem latent-integrierten MLLM um und zeigen, dass es konsequent starke diskrete und latent-denkende Baselines übertrifft, die durchschnittliche Punktzahl auf dem komplexen BLINK-Benchmark um +10,83 verbessert und Zugewinne von bis zu +32,00 bei einzelnen Denkaufgaben erzielt, wobei Analysen eine verbesserte Stabilität des latenten Raums bestätigen.

English

Multimodal Large Language Models (MLLMs) are often constrained by a language-space bottleneck, forcing complex visual reasoning into discrete tokens which can lose perceptual nuance. A promising alternative is continuous latent reasoning, where the goal is to discover implicit reasoning pathways that bridge the multimodal query and the final answer. However, this introduces a severe train-inference mismatch: a training-time posterior, conditioned on the ground-truth answer, can exploit answer-dependent shortcuts. Standard variational training then forces the inference-time prior to mimic a posterior that has access to information unavailable at test time, leading to poor performance. To address this, we propose Asymmetric Mutual Variational Learning (AMVL), a framework that resolves this mismatch via a bidirectional calibration objective. A forward KL divergence trains the target-agnostic prior to match the posterior, while a novel reverse KL divergence simultaneously regularizes the posterior, preventing it from collapsing into inference-incompatible regions and mitigating this ``answer leakage''. We provide theoretical analysis formalizing this leakage as prior contamination and prove that our dual-KL objective reduces it. We instantiate AMVL in a latent-integrated MLLM and show that it consistently outperforms strong discrete and latent-reasoning baselines, improving the average score on the complex BLINK benchmark by +10.83 and achieving gains of up to +32.00 on individual reasoning tasks, with analyses confirming improved latent-space stability.