REVISOR: Voorbij Tekstuele Reflectie, Op Weg Naar Multimodale Introspectieve Redenering bij het Begrijpen van Lange Video's
REVISOR: Beyond Textual Reflection, Towards Multimodal Introspective Reasoning in Long-Form Video Understanding
November 17, 2025
Auteurs: Jiaze Li, Hao Yin, Wenhui Tan, Jingyang Chen, Boshen Xu, Yuxun Qu, Yijing Chen, Jianzhong Ju, Zhenbo Luo, Jian Luan
cs.AI
Samenvatting
Zelfreflectiemechanismen die uitsluitend op tekstgebaseerde heroverwegingsprocessen vertrouwen, presteren goed in de meeste multimodale taken. Wanneer ze echter direct worden toegepast op scenario's voor het begrijpen van lange video's, vertonen ze duidelijke beperkingen. De fundamentele redenen hiervoor liggen in twee punten: (1) het begrijpen van lange video's omvat rijkere en dynamischere visuele input, wat betekent dat alleen heroverweging van de tekstinformatie onvoldoende is en een verder heroverwegingsproces vereist dat specifiek op visuele informatie is gericht; (2) puur tekstgebaseerde reflectiemechanismen missen cross-modale interactiemogelijkheden, waardoor ze visuele informatie tijdens de reflectie niet volledig kunnen integreren. Gemotiveerd door deze inzichten stellen we REVISOR voor (REflective VIsual Segment Oriented Reasoning), een nieuw raamwerk voor tool-ondersteunde multimodale reflectie. REVISOR stelt MLLM's in staat om gezamenlijk introspectieve reflectieprocessen over tekstuele en visuele modaliteiten heen op te bouwen, waardoor hun redeneervermogen voor het begrijpen van lange video's aanzienlijk wordt verbeterd. Om ervoor te zorgen dat REVISOR tijdens reinforcement learning kan leren om nauwkeurig videosegmenten te beoordelen die zeer relevant zijn voor de vraag, hebben we het Dual Attribution Decoupled Reward (DADR)-mechanisme ontworpen. Geïntegreerd in de GRPO-trainingsstrategie, dwingt dit mechanisme een causaal verband af tussen de redenering van het model en het geselecteerde videobewijs. Opmerkelijk is dat het REVISOR-raamwerk het vermogen van MLLM's om lange video's te begrijpen aanzienlijk verbetert zonder aanvullende supervised fine-tuning of externe modellen te vereisen, en indrukwekkende resultaten behaalt op vier benchmarks, waaronder VideoMME, LongVideoBench, MLVU en LVBench.
English
Self-reflection mechanisms that rely on purely text-based rethinking processes perform well in most multimodal tasks. However, when directly applied to long-form video understanding scenarios, they exhibit clear limitations. The fundamental reasons for this lie in two points: (1)long-form video understanding involves richer and more dynamic visual input, meaning rethinking only the text information is insufficient and necessitates a further rethinking process specifically targeting visual information; (2) purely text-based reflection mechanisms lack cross-modal interaction capabilities, preventing them from fully integrating visual information during reflection. Motivated by these insights, we propose REVISOR (REflective VIsual Segment Oriented Reasoning), a novel framework for tool-augmented multimodal reflection. REVISOR enables MLLMs to collaboratively construct introspective reflection processes across textual and visual modalities, significantly enhancing their reasoning capability for long-form video understanding. To ensure that REVISOR can learn to accurately review video segments highly relevant to the question during reinforcement learning, we designed the Dual Attribution Decoupled Reward (DADR) mechanism. Integrated into the GRPO training strategy, this mechanism enforces causal alignment between the model's reasoning and the selected video evidence. Notably, the REVISOR framework significantly enhances long-form video understanding capability of MLLMs without requiring supplementary supervised fine-tuning or external models, achieving impressive results on four benchmarks including VideoMME, LongVideoBench, MLVU, and LVBench.