Aprendizaje por Refuerzo Agente Eficiente con Mejora Intrínseca de la Frontera de Conocimiento On-Policy

Resumen

El aprendizaje por refuerzo (RL) agentivo ha demostrado ser efectivo para entrenar agentes basados en LLM con capacidades de uso de herramientas externas. Sin embargo, identificamos que el entrenamiento con RL agentivo induce una cantidad creciente de llamadas redundantes a herramientas y difumina la frontera de conocimiento intrínseco del modelo, donde este falla al distinguir cuándo se necesitan herramientas frente a cuándo basta con el conocimiento paramétrico. Las soluciones existentes basadas en modelado de recompensas crean objetivos de optimización de grano grueso que tienden a incentivar una supresión indiscriminada de llamadas a herramientas, lo que conduce al hackeo de recompensas. En este artículo, proponemos AKBE (Mejora de la Frontera de Conocimiento Agentivo), un método *on-policy* que sondea dinámicamente la frontera de conocimiento intrínseco del modelo mediante despliegues de doble ruta (con herramienta y sin herramienta) durante el entrenamiento. Definimos la frontera de conocimiento como la determinación por instancia de si se requieren herramientas y el número mínimo de llamadas a herramientas necesario. Al comparar la corrección entre las rutas, AKBE categoriza las trayectorias y construye señales de supervisión dirigidas que guían patrones eficientes de uso de herramientas para cada pregunta. Estas señales se integran sin problemas en el bucle de entrenamiento de RL agentivo. Los experimentos en siete benchmarks de preguntas y respuestas demuestran que AKBE mejora la precisión de las tareas en +1.85 de promedio y reduce las llamadas a herramientas en un 18% en comparación con el RL agentivo estándar, logrando una productividad de herramientas un 25% mayor sin ningún compromiso entre precisión y eficiencia. Análisis adicionales sugieren su compatibilidad plug-and-play con diferentes algoritmos de RL y el mecanismo de cada categoría de señal. Nuestro código está disponible en https://github.com/CuSO4-Chen/AKBE.

English

Agentic reinforcement learning (RL) has proven effective for training LLM-based agents with external tool-use capabilities. However, we identify that agentic RL training induces increasing redundant tool calls and blurs the model's intrinsic knowledge boundary, where the model fails to distinguish when tools are needed versus when parametric knowledge suffices. Existing solutions based on reward shaping create coarse-grained optimization targets that tend to incentivize indiscriminate tool-call suppression, leading to reward hacking. In this paper, we propose AKBE (Agentic Knowledge Boundary Enhancement), an on-policy method that dynamically probes the model's intrinsic knowledge boundary through dual-path (with-tool and no-tool) rollouts during training. We define the knowledge boundary as the per-instance determination of whether tools are required and the minimum tool calls necessary. By comparing correctness across paths, AKBE categorizes trajectories and constructs targeted supervisory signals that guide efficient tool-use patterns for each question. These signals are integrated seamlessly into the agentic RL training loop. Experiments on seven QA benchmarks demonstrate that AKBE improves task accuracy by +1.85 on average and reduces tool calls by 18% over standard agentic RL, yielding 25% higher tool productivity without any accuracy-efficiency trade-off. Further analysis suggests its plug-and-play compatibility across different RL algorithms and the mechanism of each signal category. Our code is available at https://github.com/CuSO4-Chen/AKBE.