非対称相互変分学習によるマルチモーダル連続推論

要旨

マルチモーダル大規模言語モデル（MLLMs）は、しばしば言語空間のボトルネックに制約され、複雑な視覚的推論を離散的なトークンに押し込めるため、知覚的なニュアンスが失われる可能性がある。有望な代替手法として連続潜在推論があり、その目標はマルチモーダルなクエリと最終回答を橋渡しする暗黙の推論経路を発見することである。しかし、これにより深刻な学習-推論のミスマッチが生じる。すなわち、学習時の事後分布は正解に条件付けされているため、回答に依存した近道を利用できる。標準的な変分学習では、テスト時には利用できない情報にアクセスできる事後分布を模倣するよう推論時の事前分布に強制するため、性能が低下する。この問題に対処するため、我々は非対称相互変分学習（AMVL）を提案する。これは双方向のキャリブレーション目的関数によりこのミスマッチを解決するフレームワークである。順方向KLダイバージェンスは目標に依存しない事前分布を事後分布に一致するよう学習させ、同時に新規の逆方向KLダイバージェンスが事後分布を正則化し、推論と互換性のない領域に崩壊するのを防ぎ、この「答えの漏洩」を軽減する。我々はこの漏洩を事前分布の汚染として形式化する理論的解析を提供し、我々の二重KL目的関数がそれを低減することを証明する。我々はAMVLを潜在統合型MLLMに実装し、強力な離散的および潜在推論ベースラインを一貫して上回ることを示す。複雑なBLINKベンチマークで平均スコアを+10.83向上させ、個々の推論タスクでは最大+32.00の改善を達成し、解析により潜在空間の安定性が向上したことが確認された。

English

Multimodal Large Language Models (MLLMs) are often constrained by a language-space bottleneck, forcing complex visual reasoning into discrete tokens which can lose perceptual nuance. A promising alternative is continuous latent reasoning, where the goal is to discover implicit reasoning pathways that bridge the multimodal query and the final answer. However, this introduces a severe train-inference mismatch: a training-time posterior, conditioned on the ground-truth answer, can exploit answer-dependent shortcuts. Standard variational training then forces the inference-time prior to mimic a posterior that has access to information unavailable at test time, leading to poor performance. To address this, we propose Asymmetric Mutual Variational Learning (AMVL), a framework that resolves this mismatch via a bidirectional calibration objective. A forward KL divergence trains the target-agnostic prior to match the posterior, while a novel reverse KL divergence simultaneously regularizes the posterior, preventing it from collapsing into inference-incompatible regions and mitigating this ``answer leakage''. We provide theoretical analysis formalizing this leakage as prior contamination and prove that our dual-KL objective reduces it. We instantiate AMVL in a latent-integrated MLLM and show that it consistently outperforms strong discrete and latent-reasoning baselines, improving the average score on the complex BLINK benchmark by +10.83 and achieving gains of up to +32.00 on individual reasoning tasks, with analyses confirming improved latent-space stability.