От зашумленных следов к первопричинам: структурный анализ траекторий и извлечение причинно-следственных связей для оптимизации агентов

Аннотация

Оптимизация долгосрочных агентов всё чаще опирается на механизмы рефлексии, в которых большая языковая модель (LLM) выступает в роли оптимизатора, диагностируя сбои агента и улучшая его политики. Однако реальные трассы выполнения сложно напрямую использовать для оптимизации: большие коллекции трасс часто избыточны и неоднородны, что делает оптимизацию неэффективной и склонной к переобучению на малозначимые сбои; в то же время каждая отдельная траектория содержит множество нерелевантных шагов, а наивные методы сокращения контекста, такие как усечение или скользящие окна, могут отбрасывать причинно значимые свидетельства и порождать вводящие в заблуждение сигналы оптимизации. Для разрешения этой дилеммы мы представляем STRACE (Structural TRajectory Analysis and Causal Extraction) — фреймворк, который формирует контексты оптимизации с высоким отношением сигнал/шум для более точной и эффективной оптимизации. На уровне пакетов STRACE выявляет паттерны сбоев, чтобы отфильтровать избыточные трассы и сохранить репрезентативные сбои; в рамках каждой выбранной трассы выполняется каузальная локализация на графе текстовых зависимостей, удаляющая непричинные шаги и определяющая истинный корневой модуль для оптимизации. Эмпирические результаты показывают, что STRACE значительно превосходит стандартные базовые методы фильтрации контекста. Примечательно, что на сложной задаче формальной верификации (VeruSAGE-Bench) он успешно оптимизирует агентов, разработанных экспертами-людьми, обеспечивая улучшение показателя успешности в 1,4 раза (с 42,5% до 58,5%). Код доступен по адресу https://github.com/moomight/STRACE .

English

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering 1.4times success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .