ADaPT:必要に応じた分解と言語モデルを用いた計画
ADaPT: As-Needed Decomposition and Planning with Language Models
November 8, 2023
著者: Archiki Prasad, Alexander Koller, Mareike Hartmann, Peter Clark, Ashish Sabharwal, Mohit Bansal, Tushar Khot
cs.AI
要旨
大規模言語モデル(LLM)は、計画立案と環境への適応を必要とするインタラクティブな意思決定タスクにますます利用されています。最近の研究では、LLMをエージェントとして主に2つの方法で使用しています:次のアクションを反復的に決定する方法(反復的実行器)と、LLMを使用して計画を生成しサブタスクを実行する方法(計画と実行)です。しかし、これらの方法はタスクの複雑さに対処するのが難しく、サブタスクを実行できない場合にタスクが失敗する可能性があります。これらの欠点を解決するために、我々は複雑なタスクに対する必要に応じた分解と計画(ADaPT)を導入します。このアプローチでは、LLMがサブタスクを実行できない場合に、明示的に計画を立てて複雑なサブタスクを分解します。ADaPTは、タスクの複雑さとLLMの能力に適応するために、サブタスクを再帰的に分解します。我々の結果は、ADaPTが確立された強力なベースラインを大幅に上回り、ALFWorldでは最大28.3%、WebShopでは27%、TextCraft(我々が新たに導入した合成的データセット)では33%の成功率を達成することを示しています。詳細な分析を通じて、多段階分解の重要性を明らかにし、ADaPTが実行LLMの能力とタスクの複雑さに動的に適応することを確認しました。
English
Large Language Models (LLMs) are increasingly being used for interactive
decision-making tasks requiring planning and adapting to the environment.
Recent works employ LLMs-as-agents in broadly two ways: iteratively determining
the next action (iterative executors) or generating plans and executing
sub-tasks using LLMs (plan-and-execute). However, these methods struggle with
task complexity, as the inability to execute any sub-task may lead to task
failure. To address these shortcomings, we introduce As-Needed Decomposition
and Planning for complex Tasks (ADaPT), an approach that explicitly plans and
decomposes complex sub-tasks as-needed, i.e., when the LLM is unable to execute
them. ADaPT recursively decomposes sub-tasks to adapt to both task complexity
and LLM capability. Our results demonstrate that ADaPT substantially
outperforms established strong baselines, achieving success rates up to 28.3%
higher in ALFWorld, 27% in WebShop, and 33% in TextCraft -- a novel
compositional dataset that we introduce. Through extensive analysis, we
illustrate the importance of multilevel decomposition and establish that ADaPT
dynamically adjusts to the capabilities of the executor LLM as well as to task
complexity.