Abstention agentique : les agents savent-ils quand s'arrêter plutôt que d'agir ?

Résumé

Les agents LLM sont censés agir sur plusieurs tours, en utilisant la recherche, les interfaces de navigation et les outils de terminal pour atteindre les objectifs des utilisateurs. Pourtant, tous les objectifs ne sont pas bien spécifiés ou réalisables dans l'environnement disponible. Dans de tels cas, un agent fiable devrait reconnaître qu'une interaction supplémentaire est peu susceptible d'aider et s'abstenir d'appels d'outils supplémentaires. Nous définissons l'abstention agentique, le problème de décider quand un agent doit cesser d'agir sous incertitude. Contrairement à l'abstention standard des LLM, qui est généralement évaluée comme une décision de réponse ou d'abstention en un seul tour, l'abstention agentique est un problème de décision séquentielle : un agent peut répondre, s'abstenir ou recueillir plus d'informations à chaque tour, et la nécessité de s'abstenir peut ne devenir claire qu'après avoir interagi avec l'environnement. Nous étudions ce problème dans des contextes de shopping en ligne, d'environnements de terminal et de réponse à des questions, en évaluant 13 systèmes agents basés sur des LLM et 2 échafaudages d'agents sur plus de 28 000 tâches. Nos résultats montrent que le principal défi n'est pas seulement de savoir si les agents peuvent s'abstenir, mais aussi quand ils le font. Certains agents ne s'abstiennent jamais quand ils le devraient, tandis que d'autres ne le font qu'après de nombreuses interactions inutiles. Cet écart est particulièrement important pour les tâches où l'instruction semble réalisable jusqu'à ce que l'environnement révèle le contraire (par exemple, aucun résultat valide ne correspond à l'instruction). Nous constatons en outre que l'échelle du modèle, le raisonnement et l'échafaudage de l'agent affectent l'abstention de différentes manières, où des modèles plus grands ou plus performants obtiennent parfois de moins bons résultats en matière d'abstention opportune. Enfin, nous présentons CONVOLVE, une méthode d'ingénierie contextuelle pour améliorer l'abstention agentique qui distille des trajectoires d'interaction complètes en règles d'arrêt réutilisables. Sur WebShop, CONVOLVE améliore considérablement l'abstention opportune sans mettre à jour les paramètres du modèle, faisant passer le taux de rappel opportun de Llama-3.3-70B de 26,7 à 57,4. Notre ensemble de données et notre code sont disponibles à l'adresse https://lhannnn.github.io/agentic-abstention

English

LLM agents are expected to act over multiple turns, using search, browsing interfaces, and terminal tools to complete user goals. Yet not every goal is well specified or achievable in the available environment. In such cases, a reliable agent should recognize that further interaction is unlikely to help and abstain from additional tool calls. We define Agentic Abstention, the problem of deciding when an agent should stop acting under uncertainty. Unlike standard LLM abstention, which is usually evaluated as a single-turn answer-or-abstain decision, agentic abstention is a sequential decision problem: an agent can answer, abstain, or gather more information at each turn, and the need to abstain may only become clear after interacting with the environment. We study this problem across web shopping, terminal environments, and question answering, evaluating 13 LLM-as-agent systems and 2 agent scaffolds on more than 28,000 tasks. Our results show that the main challenge is not only whether agents can abstain, but also when they abstain. Some agents never abstain when they should, while others do so only after many unnecessary interactions. This gap is especially large on tasks where the instruction appears feasible until the environment reveals otherwise (e.g., no valid result matches the instruction). We further find that model scale, reasoning, and agent scaffolding affect abstention in different ways, where larger or more capable models sometimes perform worse at timely abstention. Finally, we introduce CONVOLVE, a context engineering method for improving agentic abstention that distills full interaction trajectories into reusable stopping rules. On WebShop, CONVOLVE substantially improves timely abstention without updating model parameters, raising Llama-3.3-70B's timely recall rate from 26.7 to 57.4. Our dataset and code are available at https://lhannnn.github.io/agentic-abstention