Conformele Agent Foutattributie

Samenvatting

Wanneer multi-agentsystemen (MAS) falen, is het identificeren van waar de beslissende fout optrad de eerste stap voor geautomatiseerd herstel naar een eerdere toestand. Fouttoewijzing blijft een fundamentele uitdaging vanwege de lange interactiesporen die op grote taalmodellen gebaseerde MAS genereren. Dit artikel presenteert een raamwerk voor fouttoewijzing op basis van conforme voorspelling (CP) die eindige-steekproef-, distributievrije dekkingsgaranties biedt. We introduceren nieuwe algoritmen voor filtratiegebaseerde CP ontworpen voor sequentiële gegevens zoals agenttrajecten. In tegenstelling tot bestaande CP-algoritmen voorspelt onze aanpak verzamelingen die aaneengesloten reeksen zijn om efficiënt herstel en debuggen mogelijk te maken. We verifiëren onze theoretische garanties op een verscheidenheid aan agenten en datasets, tonen aan dat fouten nauwkeurig kunnen worden geïsoleerd, en gebruiken vervolgens voorspellingsverzamelingen om MAS terug te draaien om hun eigen fouten te corrigeren. Onze algemene aanpak is model-agnostisch en biedt een principiële onzekerheidslaag voor MAS-fouttoewijzing. We geven code vrij op https://github.com/layer6ai-labs/conformal-agent-error-attribution.

English

When multi-agent systems (MAS) fail, identifying where the decisive error occurred is the first step for automated recovery to an earlier state. Error attribution remains a fundamental challenge due to the long interaction traces that large language model-based MAS generate. This paper presents a framework for error attribution based on conformal prediction (CP) which provides finite-sample, distribution-free coverage guarantees. We introduce new algorithms for filtration-based CP designed for sequential data such as agent trajectories. Unlike existing CP algorithms, our approach predicts sets that are contiguous sequences to enable efficient recovery and debugging. We verify our theoretical guarantees on a variety of agents and datasets, show that errors can be precisely isolated, then use prediction sets to rollback MAS to correct their own errors. Our overall approach is model-agnostic, and offers a principled uncertainty layer for MAS error attribution. We release code at https://github.com/layer6ai-labs/conformal-agent-error-attribution.