Atribuição de Erro de Agente Conforme

Resumo

Quando sistemas multiagente (MAS) falham, identificar onde ocorreu o erro decisivo é o primeiro passo para a recuperação automatizada a um estado anterior. A atribuição de erros continua sendo um desafio fundamental devido aos longos traços de interação gerados por MAS baseados em grandes modelos de linguagem. Este artigo apresenta uma estrutura para atribuição de erros baseada em predição conforme (CP), que oferece garantias de cobertura livre de distribuição para amostras finitas. Introduzimos novos algoritmos para CP baseado em filtração, projetados para dados sequenciais, como trajetórias de agentes. Diferentemente dos algoritmos CP existentes, nossa abordagem prevê conjuntos que são sequências contíguas, permitindo recuperação e depuração eficientes. Verificamos nossas garantias teóricas em uma variedade de agentes e conjuntos de dados, mostrando que os erros podem ser isolados com precisão; em seguida, utilizamos conjuntos de predição para reverter o MAS a fim de corrigir seus próprios erros. Nossa abordagem geral é independente de modelo e oferece uma camada de incerteza fundamentada para a atribuição de erros em MAS. Disponibilizamos o código em https://github.com/layer6ai-labs/conformal-agent-error-attribution.

English

When multi-agent systems (MAS) fail, identifying where the decisive error occurred is the first step for automated recovery to an earlier state. Error attribution remains a fundamental challenge due to the long interaction traces that large language model-based MAS generate. This paper presents a framework for error attribution based on conformal prediction (CP) which provides finite-sample, distribution-free coverage guarantees. We introduce new algorithms for filtration-based CP designed for sequential data such as agent trajectories. Unlike existing CP algorithms, our approach predicts sets that are contiguous sequences to enable efficient recovery and debugging. We verify our theoretical guarantees on a variety of agents and datasets, show that errors can be precisely isolated, then use prediction sets to rollback MAS to correct their own errors. Our overall approach is model-agnostic, and offers a principled uncertainty layer for MAS error attribution. We release code at https://github.com/layer6ai-labs/conformal-agent-error-attribution.