PlanGEN : Un cadre multi-agent pour générer des trajectoires de planification et de raisonnement pour la résolution de problèmes complexes.

PlanGEN: A Multi-Agent Framework for Generating Planning and Reasoning Trajectories for Complex Problem Solving

February 22, 2025

Auteurs: Mihir Parmar, Xin Liu, Palash Goyal, Yanfei Chen, Long Le, Swaroop Mishra, Hossein Mobahi, Jindong Gu, Zifeng Wang, Hootan Nakhost, Chitta Baral, Chen-Yu Lee, Tomas Pfister, Hamid Palangi

cs.AI

Résumé

Les cadres d'agents récents et les algorithmes d'inférence ont souvent du mal avec les problèmes de planification complexes en raison de limitations dans la vérification des plans générés ou du raisonnement et de la complexité variable des instances au sein d'une tâche unique. De nombreuses méthodes existantes pour ces tâches effectuent soit une vérification au niveau de la tâche sans tenir compte des contraintes, soit appliquent des algorithmes d'inférence sans s'adapter à la complexité au niveau de l'instance. Pour répondre à ces limitations, nous proposons PlanGEN, un cadre d'agent indépendant du modèle et facilement scalable avec trois composants clés : des agents de contrainte, de vérification et de sélection. Plus précisément, notre approche propose une vérification itérative guidée par les contraintes pour améliorer les performances des algorithmes d'inférence - Best of N, Tree-of-Thought et REBASE. Dans le cadre de PlanGEN, l'agent de sélection optimise le choix de l'algorithme en fonction de la complexité de l'instance, garantissant une meilleure adaptabilité aux problèmes de planification complexes. Les résultats expérimentaux démontrent des améliorations significatives par rapport à la meilleure référence sur plusieurs benchmarks, atteignant des résultats de pointe sur NATURAL PLAN (sim8%uparrow), OlympiadBench (sim4%uparrow), DocFinQA (sim7%uparrow) et GPQA (sim1%uparrow). Notre principale découverte met en avant que la vérification itérative guidée par les contraintes améliore les algorithmes d'inférence, et que la sélection adaptative renforce encore les performances sur des problèmes complexes de planification et de raisonnement.

English

Recent agent frameworks and inference-time algorithms often struggle with complex planning problems due to limitations in verifying generated plans or reasoning and varying complexity of instances within a single task. Many existing methods for these tasks either perform task-level verification without considering constraints or apply inference-time algorithms without adapting to instance-level complexity. To address these limitations, we propose PlanGEN, a model-agnostic and easily scalable agent framework with three key components: constraint, verification, and selection agents. Specifically, our approach proposes constraint-guided iterative verification to enhance performance of inference-time algorithms--Best of N, Tree-of-Thought, and REBASE. In PlanGEN framework, the selection agent optimizes algorithm choice based on instance complexity, ensuring better adaptability to complex planning problems. Experimental results demonstrate significant improvements over the strongest baseline across multiple benchmarks, achieving state-of-the-art results on NATURAL PLAN (sim8%uparrow), OlympiadBench (sim4%uparrow), DocFinQA (sim7%uparrow), and GPQA (sim1%uparrow). Our key finding highlights that constraint-guided iterative verification improves inference-time algorithms, and adaptive selection further boosts performance on complex planning and reasoning problems.