古典的プランニングにおけるLLM生成ヒューリスティック：Pythonコードを用いた最先端技術への挑戦

Classical Planning with LLM-Generated Heuristics: Challenging the State of the Art with Python Code

March 24, 2025

著者: Augusto B. Corrêa, André G. Pereira, Jendrik Seipp

cs.AI

要旨

近年、大規模言語モデル（LLM）は様々な人工知能の問題において顕著な能力を示してきた。しかし、計画タスクの詳細な定義を与えられた場合でも、LLMは信頼性のある計画を立てることができない。チェーン・オブ・ソートプロンプティング、ファインチューニング、明示的な「推論」など、その計画能力を向上させようとする試みは、依然として誤った計画を生成し、通常はより大きなタスクに一般化できない。本論文では、LLMを使用して、分布外のタスクや規模が増大するタスクに対しても正しい計画を生成する方法を示す。与えられた計画ドメインに対して、LLMにPythonコード形式のドメイン依存ヒューリスティック関数をいくつか生成させ、貪欲最良優先探索を用いて一連の訓練タスクで評価し、最も強力なものを選択する。その結果、LLMが生成したヒューリスティックは、古典的計画における最先端のドメイン独立ヒューリスティックよりも、はるかに多くの未見のテストタスクを解決する。さらに、ドメイン依存計画における最強の学習アルゴリズムとも競合する。これらの発見は、我々の概念実証実装が最適化されていないPythonプランナーに基づいており、ベースラインがすべて高度に最適化されたC++コードに基づいていることを考えると、特に注目に値する。いくつかのドメインでは、LLMが生成したヒューリスティックはベースラインよりも少ない状態を展開し、それらが効率的に計算可能であるだけでなく、時には最先端のヒューリスティックよりも情報量が多いことを明らかにしている。全体として、我々の結果は、計画ヒューリスティック関数プログラムのセットをサンプリングすることが、LLMの計画能力を大幅に向上させることができることを示している。

English

In recent years, large language models (LLMs) have shown remarkable capabilities in various artificial intelligence problems. However, they fail to plan reliably, even when prompted with a detailed definition of the planning task. Attempts to improve their planning capabilities, such as chain-of-thought prompting, fine-tuning, and explicit "reasoning" still yield incorrect plans and usually fail to generalize to larger tasks. In this paper, we show how to use LLMs to generate correct plans, even for out-of-distribution tasks of increasing size. For a given planning domain, we ask an LLM to generate several domain-dependent heuristic functions in the form of Python code, evaluate them on a set of training tasks within a greedy best-first search, and choose the strongest one. The resulting LLM-generated heuristics solve many more unseen test tasks than state-of-the-art domain-independent heuristics for classical planning. They are even competitive with the strongest learning algorithm for domain-dependent planning. These findings are especially remarkable given that our proof-of-concept implementation is based on an unoptimized Python planner and the baselines all build upon highly optimized C++ code. In some domains, the LLM-generated heuristics expand fewer states than the baselines, revealing that they are not only efficiently computable, but sometimes even more informative than the state-of-the-art heuristics. Overall, our results show that sampling a set of planning heuristic function programs can significantly improve the planning capabilities of LLMs.