Aprendizagem por Reforço Agentiva Eficiente com Aprimoramento da Fronteira de Conhecimento Intrínseco On-Policy

Resumo

O aprendizado por reforço agentivo (RL) tem se mostrado eficaz para treinar agentes baseados em LLMs com capacidade de uso externo de ferramentas. No entanto, identificamos que o treinamento RL agentivo induz chamadas redundantes crescentes de ferramentas e desfoca o limite intrínseco de conhecimento do modelo, onde o modelo falha em distinguir quando ferramentas são necessárias versus quando o conhecimento paramétrico é suficiente. Soluções existentes baseadas em modelagem de recompensa criam alvos de otimização de granularidade grossa que tendem a incentivar a supressão indiscriminada de chamadas de ferramentas, levando à manipulação de recompensa. Neste artigo, propomos o AKBE (Agentic Knowledge Boundary Enhancement), um método on-policy que sonda dinamicamente o limite intrínseco de conhecimento do modelo através de rollouts de caminho duplo (com e sem ferramenta) durante o treinamento. Definimos o limite de conhecimento como a determinação por instância da necessidade de ferramentas e o número mínimo de chamadas de ferramenta necessárias. Ao comparar a correção entre os caminhos, o AKBE categoriza trajetórias e constrói sinais de supervisão direcionados que orientam padrões eficientes de uso de ferramentas para cada pergunta. Esses sinais são integrados perfeitamente ao loop de treinamento RL agentivo. Experimentos em sete benchmarks de QA demonstram que o AKBE melhora a precisão da tarefa em +1,85 em média e reduz chamadas de ferramenta em 18% em relação ao RL agentivo padrão, resultando em 25% maior produtividade de ferramentas sem qualquer trade-off entre precisão e eficiência. Análises adicionais sugerem sua compatibilidade plug-and-play com diferentes algoritmos de RL e o mecanismo de cada categoria de sinal. Nosso código está disponível em https://github.com/CuSO4-Chen/AKBE.

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.