Van ruizige traceringen naar grondoorzaken: structurele trajectanalyse en causale extractie voor agentoptimalisatie

Samenvatting

De optimalisatie van agenten met een lange horizon maakt steeds vaker gebruik van reflectiegebaseerde mechanismen, waarbij een groot taalmodel (LLM) fungeert als optimizer om het falen van agenten te diagnosticeren en het agentbeleid te verbeteren. Echter, echte uitvoeringstracés zijn moeilijk direct bruikbaar voor optimalisatie: grote verzamelingen tracés zijn vaak redundant en heterogeen, waardoor optimalisatie inefficiënt wordt en vatbaar voor overfitting op laagwaardige fouten. Tegelijkertijd bevat elk individueel traject ook veel irrelevante stappen, terwijl naïeve contextreductiemethoden zoals truncatie of sliding windows causaal belangrijk bewijs kunnen weggooien en misleidende optimalisatiesignalen kunnen produceren. Om dit dilemma op te lossen introduceren wij STRACE (Structural TRajectory Analysis and Causal Extraction, Structurele Trajectanalyse en Causale Extractie), een raamwerk dat optimalisatiecontexten met een hoge signaal-ruisverhouding construeert voor preciezere en effectievere optimalisatie. Op batchniveau extraheert STRACE faalpatronen om overbodige tracés te filteren en representatieve fouten te behouden; binnen elk geselecteerd traject voert het causale lokalisatie uit over een tekstuele afhankelijkheidsgraaf om niet-causale stappen te verwijderen en de ware root-cause module voor optimalisatie te identificeren. Empirische resultaten tonen aan dat STRACE significant beter presteert dan standaard contextfilteringsbaselines. Met name bij een uitdagende formele verificatietaak (VeruSAGE-Bench) optimaliseert het met succes door menselijke experts ontworpen agenten, wat leidt tot een verbetering van de slagingskans met een factor 1,4 (van 42,5% naar 58,5%). De code is beschikbaar op https://github.com/moomight/STRACE .

English

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering 1.4times success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .