PlanningBench: 大規模言語モデルの評価とトレーニングのためのスケーラブルで検証可能な計画データの生成

要旨

プランニングは、大規模言語モデル（LLM）にとって基礎的な能力である。なぜなら、複雑なタスクではモデルが目標、制約、リソース、長期的な結果を調整し、実行可能かつ検証可能な解決策にまとめる必要があるからである。既存のプランニングベンチマークは、通常、プランニングデータを制御可能な生成対象ではなく、固定されたインスタンスの集合として扱う。これにより、シナリオのカバレッジが制限され、難易度が構造的な源泉ではなく表面的な代理指標に結びつき、スケーラブルな生成、自動検証、プランニング指向の訓練のためのサポートも限られている。本稿では、評価と訓練の両方に向けて、スケーラブルで多様かつ検証可能なプランニングデータを生成するためのフレームワークであるPlanningBenchを提案する。PlanningBenchは、実際のプランニングシナリオから出発し、実用的なワークフローを30以上のタスクタイプ、サブタスク、制約ファミリー、難易度要因からなる構造化された分類体系に抽象化する。この分類体系に導かれ、制約駆動型合成パイプラインが、適応的な難易度制御、品質フィルタリング、インスタンスレベルの検証チェックリストを備えた自己完結型のプランニング問題を生成する。これにより、プランニングデータの構築を固定されたベンチマーク収集から制御可能な生成へと移行しつつ、現実的なタスクの基盤を維持する。我々はPlanningBenchを用いて、オープンソースおよびクローズドソースの最先端LLMを評価し、現在のモデルが結合された制約下で完全な解決策を生成するのに依然として苦戦していることを発見した。評価に加えて、検証済みのPlanningBenchデータを用いた強化学習は、未見のプランニングベンチマークやより広範な指示追従タスクにおける性能を向上させる。さらなる分析は、決定性のある、または適切に特定された最適解が、より明確な報酬信号とより安定した学習ダイナミクスを提供することを示唆している。総じて、PlanningBenchは、LLMにおける汎用的なプランニング能力を診断し改善するための、制御可能なプランニングデータの供給源を提供する。

English

Planning is a fundamental capability for large language models (LLMs) because such complex tasks require models to coordinate goals, constraints, resources, and long-term consequences into executable and verifiable solutions. Existing planning benchmarks, however, usually treat planning data as fixed collections of instances rather than controllable generation targets. This limits scenario coverage, ties difficulty to surface-level proxies rather than structural sources, and offers limited support for scalable generation, automatic verification, or planning-oriented training. We introduce PlanningBench, a framework for generating scalable, diverse, and verifiable planning data for both evaluation and training. PlanningBench starts from real planning scenarios and abstracts practical workflows into a structured taxonomy of more than 30 task types, subtasks, constraint families, and difficulty factors. Guided by this taxonomy, a constraint-driven synthesis pipeline instantiates self-contained planning problems with adaptive difficulty control, quality filtering, and instance-level verification checklists. This shifts planning data construction from fixed benchmark collection to controllable generation while preserving realistic task grounding. We use PlanningBench to evaluate open-source and closed-source frontier LLMs, and find that current models still struggle to produce complete solutions under coupled constraints. Beyond evaluation, reinforcement learning on verified PlanningBench data improves performance on unseen planning benchmarks and broader instruction-following tasks. Further analysis suggests that determinate or well-specified optimal solutions provide clearer reward signals and more stable training dynamics. Overall, PlanningBench provides a controllable source of planning data for diagnosing and improving generalizable planning abilities in LLMs.