オン方策内在的知識境界強化を用いた効率的なエージェント型強化学習

要旨

エージェント強化学習（RL）は、外部ツール使用能力を備えたLLMベースのエージェントの訓練に効果的であることが示されている。しかし、エージェントRL訓練は、冗長なツール呼び出しを増加させ、モデルの内在的知識境界を曖昧にするという問題を我々は特定する。すなわち、モデルがツールを必要とする場合とパラメトリック知識で十分である場合とを区別できなくなる。既存の報酬形成に基づく解決策は粗粒度の最適化目標を作り出し、無差別なツール呼び出し抑制を促進する傾向があり、報酬ハッキングを引き起こす。本論文では、AKBE（Agentic Knowledge Boundary Enhancement）を提案する。これは、訓練中に二経路（ツール有りとツール無し）のロールアウトを通じてモデルの内在的知識境界を動的に探査するオンポリシー手法である。知識境界を、ツールが必要かどうかのインスタンスごとの判断と、必要な最小限のツール呼び出し数として定義する。AKBEは、経路間の正解率比較により軌跡を分類し、各質問に対して効率的なツール使用パターンを導くための対象監視信号を構築する。これらの信号は、エージェントRL訓練ループにシームレスに統合される。7つのQAベンチマークによる実験では、AKBEは標準のエージェントRLと比較して、タスク精度を平均+1.85向上させ、ツール呼び出しを18%削減し、正確さと効率のトレードオフなしにツール生産性を25%向上させることを示す。さらに、異なるRLアルゴリズムに対するプラグアンドプレイ互換性と、各信号カテゴリのメカニズムについての分析を提供する。コードはhttps://github.com/CuSO4-Chen/AKBEで入手可能である。

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.