エージェントのトレースから得られるオートマトン：失敗予測と次ステップ予測

要旨

LLMベースのエージェントは多段階のタスクを実行するが、その行動構造は不透明なままである。長く構造化されていないトレースは、デプロイメントに必要な安全性監査や実行時監視に抵抗する。既存のアプローチはトレース単位または成功時のみで動作するため、次ステップ予測と失敗予測を結びつけるクロスラン・トポロジーを見逃している。この共有構造を回復するために、我々はトレースコーパス全体を単一のコンパクトな有限状態機械（FSM）に圧縮する。これは、そうでなければ予測不能なLLMエージェントの行動のための構造基盤として機能する。12の公開データセットにわたって、FSMはコンパクトであり（7〜43状態）、ホールドアウトデータを>=0.997の適合度で再生し、スプリット間でほぼ同一のトポロジーを示し、ミリ秒単位で構築される。この基盤は両方の予測目標に対処する。次ステップ予測では、FSM状態コンテキストは、すべてのグラウンドトゥルース一致データセットにおいてAgent Workflow Memoryを上回る。失敗予測では、状態ごとの行動特徴がホールドアウトAUROC最大0.94に達し、オンラインモニターは部分トレースから合格実行を上回る失敗実行をランク付けし、完了のかなり前に早期停止をトリガーする。したがって、行動トポロジーはLLMというよりもデプロイメントハーネスによって形成されるように見え、安全性監査と実行時監視のためのモデル非依存の構造プリミティブを提供する。

English

LLM-based agents execute multi-step tasks, but their behavioral structure remains opaque: long unstructured traces resist the safety auditing and runtime monitoring that deployment requires. Existing approaches operate per-trace or success-only, so they miss the cross-run topology that links next-step and failure prediction. To recover that shared structure, we collapse an entire trace corpus into a single, compact finite-state machine (FSM) that serves as a structural substrate for the otherwise unpredictable behavior of LLM agents. Across twelve public datasets, the FSMs are compact (7-43 states), replay held-out data at >=0.997 fitness with near-identical topology across splits, and build in milliseconds. This substrate addresses both prediction goals. For next-step prediction, FSM-state context outperforms Agent Workflow Memory on every ground-truth-matched dataset. For failure prediction, per-state behavioral features reach held-out AUROC up to 0.94, and an online monitor ranks failing runs above passing ones from a partial trace, triggering early stopping well before completion. Behavioral topology thus appears shaped more by the deployment harness than by the LLM, providing a model-agnostic structural primitive for safety auditing and runtime monitoring.