Impulsionar o Raciocínio Multimodal com Pensamento Estruturado Automatizado por MCTS

Boosting Multimodal Reasoning with MCTS-Automated Structured Thinking

February 4, 2025

Autores: Jinyang Wu, Mingkuan Feng, Shuai Zhang, Ruihan Jin, Feihu Che, Zengqi Wen, Jianhua Tao

cs.AI

Resumo

Os modelos de linguagem multimodais de grande porte (MLLMs) exibem capacidades impressionantes, mas ainda enfrentam desafios em raciocínio visual complexo. Enquanto esforços recentes tentam aprimorar o raciocínio dos MLLMs incorporando um pensamento estruturado semelhante ao OpenAI o1 por meio de estruturas de busca explícitas ou destilação guiada por professores, muitas vezes lutam para equilibrar desempenho e eficiência. Uma limitação crítica é a sua forte dependência de dados extensos e espaços de busca, resultando em extração de insights implícitos de baixa eficiência e utilização de dados. Para lidar com isso, propomos o AStar, um paradigma de pensamento estruturado automatizado para raciocínio multimodal via Busca em Árvore de Monte Carlo (MCTS). O AStar deriva automaticamente padrões de raciocínio cognitivo de alto nível a partir de dados limitados usando estruturas hierárquicas alimentadas por MCTS. Com base nesses padrões explícitos, projetamos um framework de raciocínio unificado que integra perfeitamente as capacidades de raciocínio interno dos modelos e diretrizes de raciocínio externas, possibilitando inferência eficiente com iterações mínimas na árvore. Esse novo paradigma alcança um equilíbrio convincente entre desempenho e eficiência. Experimentos extensos demonstram a eficácia do AStar, alcançando uma precisão superior (54,0%) no benchmark MathVerse com uma base de 7B, superando o GPT-4o (50,2%) mantendo considerável eficiência de dados e computacional.

English

Multimodal large language models (MLLMs) exhibit impressive capabilities but still face challenges in complex visual reasoning. While recent efforts attempt to enhance MLLMs' reasoning by incorporating OpenAI o1-like structured thinking through explicit search structures or teacher-guided distillation, they often struggle to balance performance and efficiency. A critical limitation is their heavy reliance on extensive data and search spaces, resulting in low-efficiency implicit insight extraction and data utilization. To address this, we propose AStar, an Automated Structured thinking paradigm for multimodal reasoning via Monte Carlo Tree Search (MCTS). AStar automatically derives high-level cognitive reasoning patterns from limited data using MCTS-powered hierarchical structures. Building on these explicit patterns, we design a unified reasoning framework that seamlessly integrates models' internal reasoning capabilities and external reasoning guidelines, enabling efficient inference with minimal tree iterations. This novel paradigm strikes a compelling balance between performance and efficiency. Extensive experiments demonstrate AStar's effectiveness, achieving superior accuracy (54.0%) on the MathVerse benchmark with a 7B backbone, surpassing GPT-4o (50.2%) while maintaining substantial data and computational efficiency.