Des traces bruitées aux causes racines : Analyse structurelle des trajectoires et extraction causale pour l'optimisation des agents

Résumé

L'optimisation des agents à long horizon repose de plus en plus sur des mécanismes basés sur la réflexion, où un grand modèle de langage (LLM) agit comme un optimiseur pour diagnostiquer les échecs des agents et améliorer leurs politiques. Cependant, les traces d'exécution réelles sont difficiles à utiliser directement pour l'optimisation : les grandes collections de traces sont souvent redondantes et hétérogènes, rendant l'optimisation inefficace et sujette au surapprentissage sur des échecs de faible valeur ; parallèlement, chaque trajectoire individuelle contient également de nombreuses étapes non pertinentes, tandis que les méthodes naïves de réduction de contexte telles que la troncature ou les fenêtres glissantes peuvent écarter des preuves causalement importantes et produire des signaux d'optimisation trompeurs. Pour résoudre ce dilemme, nous introduisons STRACE (Analyse Structurale de Trajectoires et Extraction Causale), un cadre qui construit des contextes d'optimisation à haut rapport signal-bruit pour une optimisation plus précise et efficace. Au niveau du lot, STRACE extrait des schémas d'échec pour filtrer les traces redondantes et conserver les échecs représentatifs ; dans chaque trace sélectionnée, il effectue une localisation causale sur un graphe de dépendances textuelles afin d'éliminer les étapes non causales et d'identifier le véritable module de cause racine pour l'optimisation. Les résultats empiriques montrent que STRACE surpasse significativement les références standard de filtrage de contexte. Notamment, sur une tâche exigeante de vérification formelle (VeruSAGE-Bench), il optimise avec succès des agents conçus par des experts humains, offrant une amélioration du taux de réussite de 1,4 fois (de 42,5 % à 58,5 %). Le code est disponible à l'adresse https://github.com/moomight/STRACE.

English

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering 1.4times success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .