Effizientes agentisches Reinforcement Learning mit On-Policy intrinsischer Wissensgrenzenerweiterung

Zusammenfassung

Agentisches Reinforcement Learning (RL) hat sich als effektiv für das Training LLM-basierter Agenten mit externen Werkzeugnutzungsfähigkeiten erwiesen. Wir stellen jedoch fest, dass agentisches RL-Training zunehmend redundante Werkzeugaufrufe induziert und die intrinsische Wissensgrenze des Modells verschwimmen lässt, wobei das Modell nicht mehr unterscheiden kann, wann Werkzeuge benötigt werden und wann parametrisches Wissen ausreicht. Bestehende Lösungen auf Basis von Belohnungsformung erzeugen grobkörnige Optimierungsziele, die dazu neigen, eine unterschiedslose Unterdrückung von Werkzeugaufrufen zu fördern, was zu Belohnungs-Hacking führt. In dieser Arbeit schlagen wir AKBE (Agentic Knowledge Boundary Enhancement) vor, eine On-Policy-Methode, die die intrinsische Wissensgrenze des Modells dynamisch durch Zwei-Pfad-Rollouts (mit und ohne Werkzeug) während des Trainings untersucht. Wir definieren die Wissensgrenze als die instanzspezifische Bestimmung, ob Werkzeuge erforderlich sind, und die minimale Anzahl notwendiger Werkzeugaufrufe. Durch den Vergleich der Korrektheit über die Pfade hinweg kategorisiert AKBE Trajektorien und konstruiert gezielte Überwachungssignale, die für jede Frage effiziente Werkzeugnutzungsmuster vorgeben. Diese Signale werden nahtlos in den agentischen RL-Trainingsloop integriert. Experimente auf sieben QA-Benchmarks zeigen, dass AKBE die Aufgaben genauigkeit um durchschnittlich +1,85 verbessert und die Werkzeugaufrufe im Vergleich zu standardmäßigem agentischem RL um 18% reduziert, was eine um 25% höhere Werkzeugproduktivität ohne Einbußen bei der Genauigkeitseffizienz ergibt. Weitere Analysen deuten auf seine Plug-and-Play-Kompatibilität mit verschiedenen RL-Algorithmen und den Wirkmechanismus jeder Signalkategorie hin. Unser Code ist verfügbar unter https://github.com/CuSO4-Chen/AKBE.

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.