Steigerung der multimodalen Argumentation mit MCTS-automatisiertem strukturiertem Denken

Boosting Multimodal Reasoning with MCTS-Automated Structured Thinking

February 4, 2025

Autoren: Jinyang Wu, Mingkuan Feng, Shuai Zhang, Ruihan Jin, Feihu Che, Zengqi Wen, Jianhua Tao

cs.AI

Zusammenfassung

Multimodale große Sprachmodelle (MLLMs) zeigen beeindruckende Fähigkeiten, stehen jedoch immer noch vor Herausforderungen bei komplexem visuellen Denken. Während jüngste Bemühungen versuchen, das Denkvermögen von MLLMs zu verbessern, indem sie OpenAI o1-ähnliches strukturiertes Denken durch explizite Suchstrukturen oder lehrergeführte Destillation einbeziehen, haben sie oft Schwierigkeiten, Leistung und Effizienz auszubalancieren. Eine entscheidende Einschränkung besteht in ihrer starken Abhängigkeit von umfangreichen Daten- und Suchräumen, was zu einer ineffizienten impliziten Erkenntnisgewinnung und Datenverwendung führt. Um dies zu lösen, schlagen wir AStar vor, ein automatisiertes strukturiertes Denkparadigma für multimodales Denken mittels Monte-Carlo-Baumsuche (MCTS). AStar leitet automatisch hochrangige kognitive Denkmuster aus begrenzten Daten mithilfe von MCTS-gesteuerten hierarchischen Strukturen ab. Aufbauend auf diesen expliziten Mustern entwerfen wir ein vereinheitlichtes Denkrahmenwerk, das die internen Denkfähigkeiten der Modelle nahtlos integriert und externe Denkrichtlinien ermöglicht, was effiziente Inferenz mit minimalen Baumiterationen ermöglicht. Dieses neuartige Paradigma schafft eine überzeugende Balance zwischen Leistung und Effizienz. Umfangreiche Experimente zeigen die Wirksamkeit von AStar, das eine überlegene Genauigkeit (54,0 %) im MathVerse-Benchmark mit einem 7B-Backbone erreicht und GPT-4o (50,2 %) übertrifft, während er erhebliche Daten- und Recheneffizienz beibehält.

English

Multimodal large language models (MLLMs) exhibit impressive capabilities but still face challenges in complex visual reasoning. While recent efforts attempt to enhance MLLMs' reasoning by incorporating OpenAI o1-like structured thinking through explicit search structures or teacher-guided distillation, they often struggle to balance performance and efficiency. A critical limitation is their heavy reliance on extensive data and search spaces, resulting in low-efficiency implicit insight extraction and data utilization. To address this, we propose AStar, an Automated Structured thinking paradigm for multimodal reasoning via Monte Carlo Tree Search (MCTS). AStar automatically derives high-level cognitive reasoning patterns from limited data using MCTS-powered hierarchical structures. Building on these explicit patterns, we design a unified reasoning framework that seamlessly integrates models' internal reasoning capabilities and external reasoning guidelines, enabling efficient inference with minimal tree iterations. This novel paradigm strikes a compelling balance between performance and efficiency. Extensive experiments demonstrate AStar's effectiveness, achieving superior accuracy (54.0%) on the MathVerse benchmark with a 7B backbone, surpassing GPT-4o (50.2%) while maintaining substantial data and computational efficiency.