Von verrauschten Spuren zu Grundursachen: Strukturelle Trajektorienanalyse und Kausalextraktion für die Agentenoptimierung

Zusammenfassung

Die Optimierung langfristiger Agenten stützt sich zunehmend auf reflexionsbasierte Mechanismen, bei denen ein großes Sprachmodell (LLM) als Optimierer fungiert, um Fehler von Agenten zu diagnostizieren und deren Strategien zu verbessern. Allerdings sind reale Ausführungs-Traces nur schwer direkt für die Optimierung nutzbar: Große Trace-Sammlungen sind oft redundant und heterogen, was die Optimierung ineffizient macht und anfällig für Überanpassung an wenig relevante Fehler; gleichzeitig enthält jede einzelne Trajektorie viele irrelevante Schritte, während naive Kontextreduktionsmethoden wie Kürzung oder gleitende Fenster kausal wichtige Belege verwerfen und irreführende Optimierungssignale erzeugen können. Um dieses Dilemma zu lösen, führen wir STRACE (Structural TRajectory Analysis and Causal Extraction) ein, ein Framework, das Optimierungskontexte mit hohem Signal-Rausch-Verhältnis für eine präzisere und effektivere Optimierung erstellt. Auf Batchebene extrahiert STRACE Fehlermuster, um redundante Traces zu filtern und repräsentative Fehler zu behalten; innerhalb jedes ausgewählten Traces führt es eine kausale Lokalisierung über einen textuellen Abhängigkeitsgraphen durch, um nicht-kausale Schritte zu entfernen und das tatsächliche Grundursachen-Modul für die Optimierung zu identifizieren. Empirische Ergebnisse zeigen, dass STRACE Standard-Basislinien zur Kontextfilterung deutlich übertrifft. Bemerkenswerterweise optimiert es bei einer anspruchsvollen formalen Verifikationsaufgabe (VeruSAGE-Bench) erfolgreich von menschlichen Experten entwickelte Agenten und erzielt eine 1,4-fache Verbesserung der Erfolgsrate (von 42,5% auf 58,5%). Der Code ist verfügbar unter https://github.com/moomight/STRACE.

English

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering 1.4times success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .