ADaPT : Décomposition et planification à la demande avec des modèles de langage

Résumé

Les modèles de langage de grande taille (LLMs) sont de plus en plus utilisés pour des tâches de prise de décision interactive nécessitant de la planification et une adaptation à l'environnement. Les travaux récents emploient les LLMs en tant qu'agents de deux manières principales : en déterminant itérativement la prochaine action (exécuteurs itératifs) ou en générant des plans et en exécutant des sous-tâches à l'aide des LLMs (planifier-et-exécuter). Cependant, ces méthodes peinent à gérer la complexité des tâches, car l'incapacité à exécuter une sous-tâche peut entraîner un échec de la tâche. Pour pallier ces lacunes, nous introduisons la décomposition et la planification au besoin pour les tâches complexes (ADaPT), une approche qui planifie et décompose explicitement les sous-tâches complexes au besoin, c'est-à-dire lorsque le LLM est incapable de les exécuter. ADaPT décompose récursivement les sous-tâches pour s'adapter à la fois à la complexité de la tâche et aux capacités du LLM. Nos résultats démontrent qu'ADaPT surpasse largement les bases de référence établies, atteignant des taux de réussite jusqu'à 28,3 % plus élevés dans ALFWorld, 27 % dans WebShop et 33 % dans TextCraft — un nouvel ensemble de données compositionnelles que nous introduisons. À travers une analyse approfondie, nous illustrons l'importance de la décomposition multiniveau et établissons qu'ADaPT s'ajuste dynamiquement aux capacités du LLM exécuteur ainsi qu'à la complexité de la tâche.

English

Large Language Models (LLMs) are increasingly being used for interactive decision-making tasks requiring planning and adapting to the environment. Recent works employ LLMs-as-agents in broadly two ways: iteratively determining the next action (iterative executors) or generating plans and executing sub-tasks using LLMs (plan-and-execute). However, these methods struggle with task complexity, as the inability to execute any sub-task may lead to task failure. To address these shortcomings, we introduce As-Needed Decomposition and Planning for complex Tasks (ADaPT), an approach that explicitly plans and decomposes complex sub-tasks as-needed, i.e., when the LLM is unable to execute them. ADaPT recursively decomposes sub-tasks to adapt to both task complexity and LLM capability. Our results demonstrate that ADaPT substantially outperforms established strong baselines, achieving success rates up to 28.3% higher in ALFWorld, 27% in WebShop, and 33% in TextCraft -- a novel compositional dataset that we introduce. Through extensive analysis, we illustrate the importance of multilevel decomposition and establish that ADaPT dynamically adjusts to the capabilities of the executor LLM as well as to task complexity.

ADaPT : Décomposition et planification à la demande avec des modèles de langage

ADaPT: As-Needed Decomposition and Planning with Language Models

Résumé

Support