「〜ねばならない」が「〜かもしれない」になるとき：LLMエージェントワークフローにおける制約緩和

要旨

大規模言語モデル（LLM）エージェントは、複数役割・複数段階のワークフローを通じて複雑なタスクを調整する。上流の状態は、要約、計画、チケット、メモリ、ハンドオフノートなどの中間言語アーティファクトへ繰り返し変換され、下流のコンポーネントはそれらに基づいて行動する。行動を制約する状態に関しては、主題の保持だけでは不十分である。アーティファクトが未解決条件に言及していても、それを実行前に解決すべき要件から、単に次の行動に情報を与えるだけのものへと変質させている場合があるからである。我々はこの行動拘束的役割を動作状態の保存として研究する。安全ブロッカーは制御された事例を提供する。各ソース状態が明示的な前提条件、権限、フォールバック、実行結果を持つためである。我々は上流の識別が正しいことを条件とし、ハンドオフ変換を変化させ、結果として得られるアーティファクトのみに制限された実行器を評価した。1,296件の制御された合成エピソード全体で、直接ハンドオフの対照条件はすべてのブロッカーを保存した。一方、圧縮、計画統合、収束、所有権の先送り、先例置換は、拘束的状態を繰り返し注意事項または非拘束的な考慮事項へと変質させた。通常のハンドオフ圧縮では100.0%の非活性化と54.2%の禁止行動が生じた。4つの状態フィールドすべてを復元すると、保存率は100.0%に向上し、禁止行動は0.0%に減少した。アーティファクトを固定した介入は、保存と封じ込めをさらに分離する。下流検証は禁止行動を排除する一方で、アーティファクトの非活性化は95.3%のままであった。これらの結果は、情報抽出と行動の間の状態伝達の失敗を特定する。ハンドオフ変換は、状態内容を保持しつつも、下流の行動に対するその制約を弱め得る。意味的可用性は動作状態の保存を保証しない。

English

Large language model (LLM) agents coordinate complex tasks through multi-role and multi-stage workflows. Upstream state is repeatedly transformed into intermediate language artifacts, such as summaries, plans, tickets, memories, and handoff notes, from which downstream components act. For action-constraining state, topical retention is insufficient: an artifact may mention an unresolved condition while changing it from a requirement that must be resolved before execution into information that may merely inform the next action. We study this action-binding role as operational state preservation. Safety blockers provide a controlled instance because each source state has an explicit prerequisite, authority, fallback, and execution consequence. We condition on correct upstream identification, vary the handoff transformation, and evaluate an executor restricted to the resulting artifact. Across 1,296 controlled synthetic episodes, direct-handoff controls preserve every blocker, whereas compression, plan assimilation, convergence, ownership deferral, and precedent substitution repeatedly turn binding state into caveats or non-binding considerations. Normal handoff compression produces 100.0% deactivation and 54.2% forbidden action. Restoring all four state fields raises preservation to 100.0% and reduces forbidden action to 0.0%. Fixed-artifact interventions further separate preservation from containment: downstream verification eliminates forbidden action while artifact deactivation remains 95.3%. These results identify a state-transmission failure between information extraction and action. Handoff transformations can retain state content while weakening its constraints on downstream action. Semantic availability does not guarantee operational preservation.