Apprentissage par renforcement agentique efficace avec amélioration intrinsèque des frontières de connaissance sur politique

Résumé

L'apprentissage par renforcement agentique (RL) s'est avéré efficace pour former des agents basés sur des LLM capables d'utiliser des outils externes. Cependant, nous constatons que l'entraînement RL agentique induit un nombre croissant d'appels d'outils redondants et brouille la frontière intrinsèque des connaissances du modèle, où celui-ci n'arrive plus à distinguer quand les outils sont nécessaires versus quand la connaissance paramétrique suffit. Les solutions existantes basées sur le façonnage de récompenses créent des objectifs d'optimisation à gros grain qui tendent à encourager une suppression indifférenciée des appels d'outils, conduisant à une manipulation de récompenses. Dans cet article, nous proposons AKBE (Agentic Knowledge Boundary Enhancement), une méthode on-policy qui explore dynamiquement la frontière intrinsèque des connaissances du modèle via des déploiements à double chemin (avec outil et sans outil) durant l'entraînement. Nous définissons la frontière des connaissances comme la détermination par instance de la nécessité d'utiliser des outils et du nombre minimal d'appels d'outils requis. En comparant la justesse entre les chemins, AKBE catégorise les trajectoires et construit des signaux de supervision ciblés qui guident des schémas d'utilisation efficaces des outils pour chaque question. Ces signaux sont intégrés de manière transparente dans la boucle d'entraînement RL agentique. Les expériences sur sept référentiels de questions-réponses montrent qu'AKBE améliore la précision des tâches de +1,85 en moyenne et réduit les appels d'outils de 18 % par rapport au RL agentique standard, ce qui produit une productivité des outils supérieure de 25 % sans compromis entre précision et efficacité. Une analyse plus approfondie suggère sa compatibilité plug-and-play avec différents algorithmes de RL et le mécanisme de chaque catégorie de signal. Notre code est disponible à l'adresse https://github.com/CuSO4-Chen/AKBE.

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.