Pläne bestehen nicht fort: Warum Kontextmanagement für LLM-Agenten tragend ist

Zusammenfassung

Langzeit-Agenten sind auf Kontextverwaltung angewiesen: Systeme komprimieren, fassen zusammen und verdrängen alte Tokens, damit Aufgaben über endliche Fenster hinaus fortgesetzt werden können. Das ist nur sicher, wenn die verworfenen Informationen nicht mehr benötigt oder verinnerlicht wurden. Pläne sind der Belastungsfall: Sie werden früh geschrieben, über viele Schritte verwendet und als Erstes verdrängt. Wir führen die Wiedergabe-Paarung ein, eine Diagnostik, die dieselbe Trajektorie mit und ohne den Plan im Verlauf ausführt und den Kosinus-Abstand der versteckten Zustände misst. Bei Llama-3.1-70B steigt das Plansignal einen Schritt nach dem Plan auf 0,453 an und fällt dann um das 4,1-fache in einem einzigen Aktions-Beobachtungs-Schritt; bei HotpotQA fällt es um das 12,4-fache. Dies ist ein Beleg dafür, dass Standard-LLM-Agenten Pläne nicht als persistenten Zustand vorwärts tragen, sondern stattdessen darauf angewiesen sind, dass der Plan im Kontext verbleibt. Eine Sonde der Schicht L32 erfasst diesen Zerfall als Diagnostik, nicht als Nachweis dafür, dass sie selbst den Planinhalt liest. Reasoning-Modelle fügen eine Messkonfundierung hinzu: Ihre `<think>`-Spuren leiten den Planinhalt erneut ab, sodass eine Standard-Entfernung Planbelege im entfernten Zustand hinterlässt. Wir nennen dies die Reasoning-Spur-Konfundierung und beheben sie mit einer strikten Entfernung, die nur im entfernten Durchlauf vorherige `<think>`-Blöcke entfernt. Dadurch werden +163 % des Signals zum Schritt+1 innerhalb der Stichprobe und +153 % außerhalb der Stichprobe zurückgewonnen, während das nicht-Reasoning Llama nicht wesentlich verändert wird (+4,8 %). Bei DeepSeek-R1-Distill-Llama-70B überträgt sich eine auf Llama trainierte Sonde mit einem AUROC von 0,748 (p=6e-4), während R1-spezifische Sonden 1,000 erreichen, was darauf hindeutet, dass R1 das Plansignal in einer anderen Richtung des versteckten Zustands kodiert. Schließlich zeigt ein Kompressions-Belastungstest die praktischen Kosten: Naive Planverdrängung senkt den ALFWorld-Erfolg um 34,7 Prozentpunkte, während eine sondengesteuerte Wiederherstellung ihn nicht zurückgewinnt. Der Beitrag ist ein Mess- und Belastungstest-Rahmenwerk, das zeigt, dass agentenkritische Informationen kontextresidierend und nicht persistent sein können. Die Kontextverwaltung ist tragend, aber alleiniger Planschutz reicht nicht aus.

English

Long-horizon agents depend on context management: systems compress, summarize, and evict old tokens so tasks can continue beyond finite windows. That is safe only when dropped information is no longer needed or has been internalized. Plans are the stress case: they are written early, used for many steps, and first to be evicted. We introduce replay pairing, a diagnostic that runs the same trajectory with and without the plan in history and measures hidden-state cosine distance. On Llama-3.1-70B, plan signal spikes to 0.453 one step after the plan, then falls 4.1x in a single action-observation step; HotpotQA falls 12.4x. This is evidence that standard LLM agents do not carry plans forward as persistent state, and instead depend on the plan remaining in context. A layer-L32 probe detects this decay as a diagnostic, not as proof that it reads plan content itself. Reasoning models add a measurement confound: their `<think>` traces re-derive plan content, so standard stripping leaves plan evidence in the stripped condition. We name this the reasoning-trace confound and fix it with strict stripping, which removes prior `<think>` blocks from the stripped run only. It recovers +163% of the step+1 signal in-sample and +153% held out, while not meaningfully changing non-reasoning Llama (+4.8%). On DeepSeek-R1-Distill-Llama-70B, a Llama-trained probe transfers at AUROC 0.748 (p=6e-4), while R1-specific probes reach 1.000, suggesting R1 encodes plan signal in a different hidden-state direction. Finally, a compression stress test shows the practical cost: naive plan eviction cuts ALFWorld success by 34.7pp, while probe-gated re-surfacing does not recover it. The contribution is a measurement and stress-test framework showing that agent-critical information can be context-resident rather than persistent. Context management is load bearing, but plan protection alone is not enough.