Abstención Agéntica: ¿Saben los Agentes Cuándo Detenerse en Lugar de Actuar?

Resumen

Se espera que los agentes de LLM actúen a lo largo de múltiples turnos, utilizando búsquedas, interfaces de navegación y herramientas de terminal para completar los objetivos del usuario. Sin embargo, no todos los objetivos están bien especificados o son alcanzables en el entorno disponible. En tales casos, un agente fiable debería reconocer que una interacción adicional probablemente no ayudará y abstenerse de realizar más llamadas a herramientas. Definimos la abstención agentiva, el problema de decidir cuándo un agente debe dejar de actuar bajo incertidumbre. A diferencia de la abstención estándar en LLM, que generalmente se evalúa como una decisión de responder o abstenerse en un solo turno, la abstención agentiva es un problema de decisión secuencial: un agente puede responder, abstenerse o recopilar más información en cada turno, y la necesidad de abstenerse solo puede ser evidente después de interactuar con el entorno. Estudiamos este problema en entornos de compras web, terminales y respuesta a preguntas, evaluando 13 sistemas de agente como LLM y 2 andamiajes de agente en más de 28,000 tareas. Nuestros resultados muestran que el principal desafío no es solo si los agentes pueden abstenerse, sino también cuándo lo hacen. Algunos agentes nunca se abstienen cuando deberían, mientras que otros lo hacen solo después de muchas interacciones innecesarias. Esta brecha es especialmente grande en tareas donde la instrucción parece factible hasta que el entorno revela lo contrario (por ejemplo, ningún resultado válido coincide con la instrucción). Además, encontramos que la escala del modelo, el razonamiento y el andamiaje del agente afectan la abstención de diferentes maneras, donde modelos más grandes o más capaces a veces tienen un peor desempeño en la abstención oportuna. Finalmente, presentamos CONVOLVE, un método de ingeniería de contexto para mejorar la abstención agentiva que destila trayectorias de interacción completas en reglas de parada reutilizables. En WebShop, CONVOLVE mejora sustancialmente la abstención oportuna sin actualizar los parámetros del modelo, elevando la tasa de recuperación oportuna de Llama-3.3-70B del 26.7 al 57.4. Nuestro conjunto de datos y código están disponibles en https://lhannnn.github.io/agentic-abstention.

English

LLM agents are expected to act over multiple turns, using search, browsing interfaces, and terminal tools to complete user goals. Yet not every goal is well specified or achievable in the available environment. In such cases, a reliable agent should recognize that further interaction is unlikely to help and abstain from additional tool calls. We define Agentic Abstention, the problem of deciding when an agent should stop acting under uncertainty. Unlike standard LLM abstention, which is usually evaluated as a single-turn answer-or-abstain decision, agentic abstention is a sequential decision problem: an agent can answer, abstain, or gather more information at each turn, and the need to abstain may only become clear after interacting with the environment. We study this problem across web shopping, terminal environments, and question answering, evaluating 13 LLM-as-agent systems and 2 agent scaffolds on more than 28,000 tasks. Our results show that the main challenge is not only whether agents can abstain, but also when they abstain. Some agents never abstain when they should, while others do so only after many unnecessary interactions. This gap is especially large on tasks where the instruction appears feasible until the environment reveals otherwise (e.g., no valid result matches the instruction). We further find that model scale, reasoning, and agent scaffolding affect abstention in different ways, where larger or more capable models sometimes perform worse at timely abstention. Finally, we introduce CONVOLVE, a context engineering method for improving agentic abstention that distills full interaction trajectories into reusable stopping rules. On WebShop, CONVOLVE substantially improves timely abstention without updating model parameters, raising Llama-3.3-70B's timely recall rate from 26.7 to 57.4. Our dataset and code are available at https://lhannnn.github.io/agentic-abstention