Эффективное агентное обучение с подкреплением с усилением границ внутреннего знания на основе текущей политики

Аннотация

Агентное обучение с подкреплением (RL) доказало свою эффективность для обучения агентов на основе больших языковых моделей (LLM) навыкам использования внешних инструментов. Однако мы выявили, что обучение агентному RL приводит к увеличению избыточных вызовов инструментов и размывает внутреннюю границу знаний модели: модель перестает различать случаи, когда инструменты действительно необходимы, и ситуации, в которых достаточно параметрических знаний. Существующие решения, основанные на формировании вознаграждения (reward shaping), создают огрубленные цели оптимизации, которые, как правило, стимулируют неизбирательное подавление вызовов инструментов, что ведет к манипуляции вознаграждением (reward hacking). В данной работе мы предлагаем AKBE (Agentic Knowledge Boundary Enhancement — улучшение агентной границы знаний) — метод on-policy, который динамически определяет внутреннюю границу знаний модели с помощью двухпутевых прогонов (с инструментом и без инструмента) в процессе обучения. Мы определяем границу знаний как поинстансное решение о том, требуется ли использование инструментов, и о минимальном количестве необходимых вызовов инструментов. Сравнивая правильность по двум путям, AKBE классифицирует траектории и формирует целевые контролирующие сигналы, направляющие эффективные паттерны использования инструментов для каждого вопроса. Эти сигналы бесшовно интегрируются в цикл обучения агентному RL. Эксперименты на семи бенчмарках вопросно-ответных задач показывают, что AKBE повышает точность выполнения задач в среднем на +1,85 и сокращает количество вызовов инструментов на 18% по сравнению со стандартным агентным RL, что дает на 25% более высокую продуктивность инструментов без какого-либо компромисса между точностью и эффективностью. Дополнительный анализ подтверждает совместимость метода по принципу «включи и работай» с различными алгоритмами RL, а также механизм работы каждой категории сигналов. Наш код доступен по адресу https://github.com/CuSO4-Chen/AKBE.

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.