De Rastros Ruidosos a Causas Raiz: Análise Estrutural de Trajetórias e Extração Causal para Otimização de Agentes

Resumo

A otimização de agentes de horizonte longo depende cada vez mais de mecanismos baseados em reflexão, nos quais um modelo de linguagem grande (LLM) atua como otimizador para diagnosticar falhas do agente e aprimorar suas políticas. No entanto, rastros de execução reais são difíceis de usar diretamente para otimização: grandes coleções de rastros são frequentemente redundantes e heterogêneas, tornando a otimização ineficiente e propensa a sobreajuste a falhas de baixo valor; paralelamente, cada trajetória individual também contém muitas etapas irrelevantes, enquanto métodos ingênuos de redução de contexto, como truncamento ou janelas deslizantes, podem descartar evidências causalmente importantes e gerar sinais de otimização enganosos. Para resolver esse dilema, apresentamos o STRACE (Análise Estrutural de Trajetória e Extração Causal), uma estrutura que constrói contextos de otimização com alta relação sinal-ruído para uma otimização mais precisa e eficaz. No nível do lote, o STRACE extrai padrões de falha para filtrar rastros redundantes e reter falhas representativas; dentro de cada rastro selecionado, ele realiza localização causal sobre um grafo de dependência textual para remover etapas não causais e identificar o verdadeiro módulo de causa raiz para otimização. Resultados empíricos demonstram que o STRACE supera significativamente as linhas de base padrão de filtragem de contexto. Notavelmente, em uma tarefa desafiadora de verificação formal (VeruSAGE-Bench), ele otimiza com sucesso agentes projetados por especialistas humanos, proporcionando uma melhoria de 1,4 vez na taxa de sucesso (de 42,5% para 58,5%). O código está disponível em https://github.com/moomight/STRACE.

English

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering 1.4times success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .