잡음 추적에서 근본 원인으로: 에이전트 최적화를 위한 구조적 궤적 분석 및 인과 추출

초록

장기 지평 에이전트의 최적화는 점차 반성 기반 메커니즘에 의존하게 되었으며, 여기서 대규모 언어 모델(LLM)이 최적화자 역할을 수행하여 에이전트의 실패를 진단하고 정책을 개선한다. 그러나 실제 실행 궤적을 최적화에 직접 사용하기는 어렵다. 대규모 궤적 집합은 종종 중복되고 이질적이어서 최적화가 비효율적이고 가치가 낮은 실패에 과적합되기 쉬우며, 개별 궤적 또한 많은 관련 없는 단계를 포함하는 반면, 절단이나 슬라이딩 윈도우와 같은 단순한 컨텍스트 축소 방법은 인과적으로 중요한 증거를 폐기하여 잘못된 최적화 신호를 생성할 수 있다. 이러한 딜레마를 해결하기 위해, 우리는 신호 대 잡음비가 높은 최적화 컨텍스트를 구성하여 보다 정밀하고 효과적인 최적화를 가능하게 하는 STRACE(구조적 궤적 분석 및 인과 추출, Structural TRajectory Analysis and Causal Extraction) 프레임워크를 소개한다. 배치 수준에서 STRACE는 실패 패턴을 마이닝하여 중복 궤적을 필터링하고 대표적인 실패만을 유지하며, 선택된 각 궤적 내에서는 텍스트 의존성 그래프에 대한 인과적 위치 파악을 수행하여 비인과적 단계를 제거하고 최적화를 위한 진정한 근본 원인 모듈을 식별한다. 실험 결과는 STRACE가 표준 컨텍스트 필터링 기준선보다 현저히 우수함을 보여준다. 특히, 까다로운 형식 검증 과제(VeruSAGE-Bench)에서 인간 전문가가 설계한 에이전트를 성공적으로 최적화하여 성공률을 1.4배 향상시켰다(42.5%에서 58.5%로). 코드는 https://github.com/moomight/STRACE 에서 확인할 수 있다.

English

The optimization of long-horizon agents increasingly relies on reflection-based mechanisms, where a large language model (LLM) acts as an optimizer to diagnose agent failures and improve agent policies. However, real execution traces are difficult to use directly for optimization: large trace collections are often redundant and heterogeneous, making optimization inefficient and prone to overfitting to low-value failures; meanwhile, each individual trajectory also contains many irrelevant steps, while naive context reduction methods such as truncation or sliding windows can discard causally important evidence and produce misleading optimization signals. To resolve this dilemma, we introduce STRACE (Structural TRajectory Analysis and Causal Extraction), a framework that constructs high signal-noise optimization contexts for more precise and effective optimization. At the batch level, STRACE mines failure patterns to filter redundant traces and retain representative failures; within each selected trace, it performs causal localization over a textual dependency graph to remove non-causal steps and identify the true root-cause module for optimization. Empirical results demonstrate that STRACE significantly outperforms standard context-filtering baselines. Notably, on a challenging formal verification task (VeruSAGE-Bench), it successfully optimizes human-expert designed agents, delivering 1.4times success-rate improvement (42.5% to 58.5%). The code is available at https://github.com/moomight/STRACE .