Мультимодальное непрерывное рассуждение на основе асимметричного взаимного вариационного обучения

Аннотация

Мультимодальные большие языковые модели (МБЯМ) часто ограничены узким местом в языковом пространстве, вынуждающим кодировать сложные визуальные рассуждения в дискретные токены, что может приводить к потере нюансов восприятия. Перспективной альтернативой является непрерывное латентное рассуждение, цель которого — обнаружение неявных путей рассуждения, связывающих мультимодальный запрос с окончательным ответом. Однако это порождает серьезное несоответствие между обучением и выводом: апостериорное распределение на этапе обучения, обусловленное истинным ответом, может эксплуатировать зависимые от ответа короткие пути. Стандартное вариационное обучение заставляет априорное распределение на этапе вывода подражать апостериорному, которое имеет доступ к информации, недоступной во время тестирования, что приводит к низкой производительности. Для решения этой проблемы мы предлагаем асимметричное взаимное вариационное обучение (AMVL) — подход, устраняющий данное несоответствие с помощью двунаправленной цели калибровки. Прямая дивергенция Кульбака–Лейблера (KL) обучает не зависящее от цели априорное распределение соответствовать апостериорному, в то время как новая обратная дивергенция KL одновременно регуляризирует апостериорное распределение, предотвращая его коллапс в несовместимые с выводом области и смягчая эту «утечку ответа». Мы приводим теоретический анализ, формализующий эту утечку как загрязнение априорного распределения, и доказываем, что наша двойная KL-цель уменьшает ее. Мы реализуем AMVL в МБЯМ с интегрированным латентным пространством и показываем, что она стабильно превосходит сильные базовые подходы как с дискретным, так и с латентным рассуждением, увеличивая средний балл на сложном эталонном тесте BLINK на +10.83 и достигая прироста до +32.00 на отдельных задачах рассуждения, причем анализ подтверждает улучшенную стабильность латентного пространства.

English

Multimodal Large Language Models (MLLMs) are often constrained by a language-space bottleneck, forcing complex visual reasoning into discrete tokens which can lose perceptual nuance. A promising alternative is continuous latent reasoning, where the goal is to discover implicit reasoning pathways that bridge the multimodal query and the final answer. However, this introduces a severe train-inference mismatch: a training-time posterior, conditioned on the ground-truth answer, can exploit answer-dependent shortcuts. Standard variational training then forces the inference-time prior to mimic a posterior that has access to information unavailable at test time, leading to poor performance. To address this, we propose Asymmetric Mutual Variational Learning (AMVL), a framework that resolves this mismatch via a bidirectional calibration objective. A forward KL divergence trains the target-agnostic prior to match the posterior, while a novel reverse KL divergence simultaneously regularizes the posterior, preventing it from collapsing into inference-incompatible regions and mitigating this ``answer leakage''. We provide theoretical analysis formalizing this leakage as prior contamination and prove that our dual-KL objective reduces it. We instantiate AMVL in a latent-integrated MLLM and show that it consistently outperforms strong discrete and latent-reasoning baselines, improving the average score on the complex BLINK benchmark by +10.83 and achieving gains of up to +32.00 on individual reasoning tasks, with analyses confirming improved latent-space stability.