Attribution d'erreur d'agent conforme

Résumé

Lorsque des systèmes multi-agents (SMA) échouent, identifier l'endroit où l'erreur décisive s'est produite est la première étape pour une restauration automatisée vers un état antérieur. L'attribution des erreurs reste un défi fondamental en raison des longues traces d'interaction générées par les SMA basés sur de grands modèles de langage. Cet article présente un cadre pour l'attribution des erreurs fondé sur la prédiction conforme (PC), qui offre des garanties de couverture valables pour tout échantillon fini et sans hypothèse de distribution. Nous introduisons de nouveaux algorithmes de PC basés sur la filtration, conçus pour des données séquentielles telles que les trajectoires d'agents. Contrairement aux algorithmes de PC existants, notre approche prédit des ensembles qui sont des séquences contiguës afin de permettre une restauration et un débogage efficaces. Nous vérifions nos garanties théoriques sur une variété d'agents et d'ensembles de données, montrons que les erreurs peuvent être isolées avec précision, puis utilisons les ensembles de prédiction pour restaurer les SMA afin qu'ils corrigent leurs propres erreurs. Notre approche globale est indépendante du modèle et offre une couche d'incertitude théorique pour l'attribution des erreurs dans les SMA. Nous publions le code à l'adresse https://github.com/layer6ai-labs/conformal-agent-error-attribution.

English

When multi-agent systems (MAS) fail, identifying where the decisive error occurred is the first step for automated recovery to an earlier state. Error attribution remains a fundamental challenge due to the long interaction traces that large language model-based MAS generate. This paper presents a framework for error attribution based on conformal prediction (CP) which provides finite-sample, distribution-free coverage guarantees. We introduce new algorithms for filtration-based CP designed for sequential data such as agent trajectories. Unlike existing CP algorithms, our approach predicts sets that are contiguous sequences to enable efficient recovery and debugging. We verify our theoretical guarantees on a variety of agents and datasets, show that errors can be precisely isolated, then use prediction sets to rollback MAS to correct their own errors. Our overall approach is model-agnostic, and offers a principled uncertainty layer for MAS error attribution. We release code at https://github.com/layer6ai-labs/conformal-agent-error-attribution.