Efficiënt agentisch reinforcement learning met on-policy intrinsieke kennisgrensverbetering

Samenvatting

Agentische reinforcement learning (RL) is effectief gebleken voor het trainen van op LLM gebaseerde agenten met externe toolgebruiksmogelijkheden. We stellen echter vast dat agentische RL-training leidt tot een toename van overbodige toolaanroepen en de intrinsieke kennisgrens van het model vervaagt, waarbij het model niet meer kan onderscheiden wanneer tools nodig zijn versus wanneer parametrische kennis volstaat. Bestaande oplossingen op basis van reward shaping leveren grofkorrelige optimalisatiedoelen op die doorgaans een onderscheidloze onderdrukking van toolaanroepen stimuleren, wat leidt tot reward hacking. In dit artikel stellen we AKBE (Agentic Knowledge Boundary Enhancement) voor, een on-policy-methode die tijdens training via een tweespoorse uitrol (met-tool en zonder-tool) dynamisch de intrinsieke kennisgrens van het model aftast. We definiëren de kennisgrens als de per-instantie bepaling of tools nodig zijn en het minimale aantal benodigde toolaanroepen. Door de correctheid over de sporen te vergelijken, categoriseert AKBE trajecten en construeert het gerichte toezichtsignalen die voor elke vraag efficiënte toolgebruikspatronen sturen. Deze signalen worden naadloos geïntegreerd in de agentische RL-trainingslus. Experimenten op zeven QA-benchmarks tonen aan dat AKBE de taaknauwkeurigheid gemiddeld met +1,85 verbetert en het aantal toolaanroepen met 18% vermindert in vergelijking met standaard agentische RL, wat resulteert in 25% hogere toolproductiviteit zonder enige afweging tussen nauwkeurigheid en efficiëntie. Verdere analyse suggereert de plug-and-play-compatibiliteit met verschillende RL-algoritmen en het mechanisme van elke signaalcategorie. Onze code is beschikbaar op https://github.com/CuSO4-Chen/AKBE.

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.