REVISOR: Oltre la Riflessione Testuale, Verso un Ragionamento Introspezione Multimodale nella Comprensione di Video di Lunga Durata
REVISOR: Beyond Textual Reflection, Towards Multimodal Introspective Reasoning in Long-Form Video Understanding
November 17, 2025
Autori: Jiaze Li, Hao Yin, Wenhui Tan, Jingyang Chen, Boshen Xu, Yuxun Qu, Yijing Chen, Jianzhong Ju, Zhenbo Luo, Jian Luan
cs.AI
Abstract
I meccanismi di autoriflessione che si basano su processi di ripensamento puramente testuali ottengono buone prestazioni nella maggior parte dei compiti multimodali. Tuttavia, quando applicati direttamente a scenari di comprensione di video di lunga durata, mostrano chiare limitazioni. Le ragioni fondamentali risiedono in due punti: (1) la comprensione di video di lunga durata coinvolge un input visivo più ricco e dinamico, il che significa che ripensare solo alle informazioni testuali è insufficiente e rende necessario un ulteriore processo di riflessione specificamente mirato alle informazioni visive; (2) i meccanismi di riflessione puramente testuali mancano di capacità di interazione cross-modale, impedendo loro di integrare pienamente le informazioni visive durante la riflessione. Sulla base di queste intuizioni, proponiamo REVISOR (REflective VIsual Segment Oriented Reasoning), un nuovo framework per la riflessione multimodale aumentata da strumenti. REVISOR consente agli MLLM di costruire in modo collaborativo processi di riflessione introspettiva attraverso le modalità testuale e visiva, migliorando significativamente la loro capacità di ragionamento per la comprensione di video di lunga durata. Per garantire che REVISOR possa imparare a rivedere accuratamente i segmenti video altamente rilevanti per la domanda durante l'apprendimento per rinforzo, abbiamo progettato il meccanismo di Ricompensa Disaccoppiata a Doppia Attribuzione (DADR). Integrato nella strategia di addestramento GRPO, questo meccanismo impone un allineamento causale tra il ragionamento del modello e le prove video selezionate. È importante notare che il framework REVISOR migliora significativamente la capacità di comprensione di video di lunga durata degli MLLM senza richiedere ulteriore fine-tuning supervisionato o modelli esterni, ottenendo risultati impressionanti su quattro benchmark, tra cui VideoMME, LongVideoBench, MLVU e LVBench.
English
Self-reflection mechanisms that rely on purely text-based rethinking processes perform well in most multimodal tasks. However, when directly applied to long-form video understanding scenarios, they exhibit clear limitations. The fundamental reasons for this lie in two points: (1)long-form video understanding involves richer and more dynamic visual input, meaning rethinking only the text information is insufficient and necessitates a further rethinking process specifically targeting visual information; (2) purely text-based reflection mechanisms lack cross-modal interaction capabilities, preventing them from fully integrating visual information during reflection. Motivated by these insights, we propose REVISOR (REflective VIsual Segment Oriented Reasoning), a novel framework for tool-augmented multimodal reflection. REVISOR enables MLLMs to collaboratively construct introspective reflection processes across textual and visual modalities, significantly enhancing their reasoning capability for long-form video understanding. To ensure that REVISOR can learn to accurately review video segments highly relevant to the question during reinforcement learning, we designed the Dual Attribution Decoupled Reward (DADR) mechanism. Integrated into the GRPO training strategy, this mechanism enforces causal alignment between the model's reasoning and the selected video evidence. Notably, the REVISOR framework significantly enhances long-form video understanding capability of MLLMs without requiring supplementary supervised fine-tuning or external models, achieving impressive results on four benchmarks including VideoMME, LongVideoBench, MLVU, and LVBench.