Potenziare il Ragionamento Multimodale con MCTS-Pensiero Strutturato Automatizzato

Boosting Multimodal Reasoning with MCTS-Automated Structured Thinking

February 4, 2025

Autori: Jinyang Wu, Mingkuan Feng, Shuai Zhang, Ruihan Jin, Feihu Che, Zengqi Wen, Jianhua Tao

cs.AI

Abstract

I modelli linguistici multimodali di grandi dimensioni (MLLM) mostrano capacità impressionanti ma affrontano ancora sfide nella complessa ragionamento visuale. Mentre gli sforzi recenti cercano di potenziare il ragionamento dei MLLM incorporando pensiero strutturato simile a OpenAI o1 attraverso strutture di ricerca esplicite o distillazione guidata dall'insegnante, spesso faticano a bilanciare prestazioni ed efficienza. Una limitazione critica è la loro forte dipendenza da dati estesi e spazi di ricerca, che porta a un'estrazione di intuizioni implicite e utilizzo dei dati poco efficienti. Per affrontare questo problema, proponiamo AStar, un paradigma di pensiero strutturato automatizzato per il ragionamento multimodale tramite Ricerca ad Albero Monte Carlo (MCTS). AStar deriva automaticamente modelli di ragionamento cognitivo di alto livello da dati limitati utilizzando strutture gerarchiche alimentate da MCTS. Sulla base di questi modelli espliciti, progettiamo un framework di ragionamento unificato che integra in modo fluido le capacità di ragionamento interne dei modelli e linee guida di ragionamento esterne, consentendo un'inferenza efficiente con un numero minimo di iterazioni dell'albero. Questo nuovo paradigma trova un equilibrio convincente tra prestazioni ed efficienza. Esperimenti estesi dimostrano l'efficacia di AStar, ottenendo un'accuratezza superiore (54,0%) sul benchmark MathVerse con un backbone da 7B, superando il GPT-4o (50,2%) pur mantenendo un'efficienza sostanziale in termini di dati e calcolo.

English

Multimodal large language models (MLLMs) exhibit impressive capabilities but still face challenges in complex visual reasoning. While recent efforts attempt to enhance MLLMs' reasoning by incorporating OpenAI o1-like structured thinking through explicit search structures or teacher-guided distillation, they often struggle to balance performance and efficiency. A critical limitation is their heavy reliance on extensive data and search spaces, resulting in low-efficiency implicit insight extraction and data utilization. To address this, we propose AStar, an Automated Structured thinking paradigm for multimodal reasoning via Monte Carlo Tree Search (MCTS). AStar automatically derives high-level cognitive reasoning patterns from limited data using MCTS-powered hierarchical structures. Building on these explicit patterns, we design a unified reasoning framework that seamlessly integrates models' internal reasoning capabilities and external reasoning guidelines, enabling efficient inference with minimal tree iterations. This novel paradigm strikes a compelling balance between performance and efficiency. Extensive experiments demonstrate AStar's effectiveness, achieving superior accuracy (54.0%) on the MathVerse benchmark with a 7B backbone, surpassing GPT-4o (50.2%) while maintaining substantial data and computational efficiency.