REVISOR: Über die textuelle Reflexion hinaus – hin zu multimodaler introspektiver Argumentation im Verständnis langer Videos
REVISOR: Beyond Textual Reflection, Towards Multimodal Introspective Reasoning in Long-Form Video Understanding
November 17, 2025
papers.authors: Jiaze Li, Hao Yin, Wenhui Tan, Jingyang Chen, Boshen Xu, Yuxun Qu, Yijing Chen, Jianzhong Ju, Zhenbo Luo, Jian Luan
cs.AI
papers.abstract
Selbstreflexionsmechanismen, die auf rein textbasierten Überdenkprozessen beruhen, schneiden bei den meisten multimodalen Aufgaben gut ab. Bei direkter Anwendung auf Szenarien zum Verständnis langformatiger Videos zeigen sie jedoch deutliche Grenzen. Die grundlegenden Gründe hierfür liegen in zwei Punkten: (1) Das Verständnis langformatiger Videos beinhaltet eine reichere und dynamischere visuelle Eingabe, was bedeutet, dass ein Überdenken nur der Textinformationen unzureichend ist und einen weiteren Überdenkprozess erfordert, der speziell auf visuelle Informationen abzielt; (2) Rein textbasierte Reflexionsmechanismen verfügen über keine Fähigkeiten zur cross-modalen Interaktion, was sie daran hindert, visuelle Informationen während der Reflexion vollständig zu integrieren. Angeregt durch diese Erkenntnisse schlagen wir REVISOR (REflective VIsual Segment Oriented Reasoning) vor, einen neuartigen Rahmenwerk für werkzeuggestützte multimodale Reflexion. REVISOR ermöglicht es MLLMs, introspective Reflexionsprozesse kollaborativ über textuelle und visuelle Modalitäten hinweg zu konstruieren und verbessert so erheblich ihre Schlussfolgerungsfähigkeit für das Verständnis langformatiger Videos. Um sicherzustellen, dass REVISOR während des bestärkenden Lernens lernt, genau die für die Frage hochrelevanten Videosegmente zu überprüfen, haben wir den Dual Attribution Decoupled Reward (DADR)-Mechanismus entwickelt. Dieser Mechanismus, integriert in die GRPO-Trainingsstrategie, erzwingt eine kausale Ausrichtung zwischen der Schlussfolgerung des Modells und den ausgewählten Videobeweisen. Bemerkenswerterweise verbessert das REVISOR-Rahmenwerk die Fähigkeit von MLLMs zum Verständnis langformatiger Videos erheblich, ohne dass eine zusätzliche überwachte Feinabstimmung oder externe Modelle erforderlich sind, und erzielt beeindruckende Ergebnisse auf vier Benchmark-Tests, darunter VideoMME, LongVideoBench, MLVU und LVBench.
English
Self-reflection mechanisms that rely on purely text-based rethinking processes perform well in most multimodal tasks. However, when directly applied to long-form video understanding scenarios, they exhibit clear limitations. The fundamental reasons for this lie in two points: (1)long-form video understanding involves richer and more dynamic visual input, meaning rethinking only the text information is insufficient and necessitates a further rethinking process specifically targeting visual information; (2) purely text-based reflection mechanisms lack cross-modal interaction capabilities, preventing them from fully integrating visual information during reflection. Motivated by these insights, we propose REVISOR (REflective VIsual Segment Oriented Reasoning), a novel framework for tool-augmented multimodal reflection. REVISOR enables MLLMs to collaboratively construct introspective reflection processes across textual and visual modalities, significantly enhancing their reasoning capability for long-form video understanding. To ensure that REVISOR can learn to accurately review video segments highly relevant to the question during reinforcement learning, we designed the Dual Attribution Decoupled Reward (DADR) mechanism. Integrated into the GRPO training strategy, this mechanism enforces causal alignment between the model's reasoning and the selected video evidence. Notably, the REVISOR framework significantly enhances long-form video understanding capability of MLLMs without requiring supplementary supervised fine-tuning or external models, achieving impressive results on four benchmarks including VideoMME, LongVideoBench, MLVU, and LVBench.