Les plans ne persistent pas : pourquoi la gestion du contexte est un élément crucial pour les agents LLM

Résumé

Les agents à long horizon dépendent de la gestion du contexte : les systèmes compressent, résument et évincencent les anciens tokens afin que les tâches puissent se poursuivre au-delà de fenêtres finies. Cela n'est sûr que lorsque les informations supprimées ne sont plus nécessaires ou ont été internalisées. Les plans constituent le cas critique : ils sont écrits tôt, utilisés sur de nombreuses étapes, et sont les premiers à être évincés. Nous introduisons l'appariement par rejeu, un diagnostic qui exécute la même trajectoire avec et sans le plan dans l'historique et mesure la distance cosinus des états cachés. Sur Llama-3.1-70B, le signal du plan monte à 0,453 une étape après le plan, puis chute d'un facteur 4,1 en une seule étape d'action-observation ; pour HotpotQA, la chute est de 12,4×. Cela prouve que les agents LLM standards ne transportent pas les plans comme un état persistant, mais dépendent plutôt du maintien du plan dans le contexte. Une sonde de couche L32 détecte cette décroissance comme diagnostic, et non comme preuve qu'elle lit le contenu du plan lui-même. Les modèles de raisonnement ajoutent un facteur de confusion de mesure : leurs traces `<think>` redérivent le contenu du plan, de sorte que le retrait standard laisse des preuves du plan dans la condition retirée. Nous nommons cela le facteur de confusion de la trace de raisonnement et le corrigeons par un retrait strict, qui supprime les blocs `<think>` antérieurs uniquement de l'exécution retirée. Cela récupère +163 % du signal step+1 dans l'échantillon et +153 % en validation, sans modifier significativement le Llama non raisonnement (+4,8 %). Sur DeepSeek-R1-Distill-Llama-70B, une sonde entraînée sur Llama transfère à un AUROC de 0,748 (p = 6e-4), tandis que les sondes spécifiques à R1 atteignent 1,000, suggérant que R1 encode le signal du plan dans une direction d'état caché différente. Enfin, un test de stress de compression montre le coût pratique : l'éviction naïve du plan réduit le succès sur ALFWorld de 34,7 points de pourcentage, tandis qu'un réaffichage contrôlé par sonde ne le récupère pas. La contribution est un cadre de mesure et de test de stress montrant que des informations critiques pour l'agent peuvent être résidentes dans le contexte plutôt que persistantes. La gestion du contexte est essentielle, mais la seule protection du plan ne suffit pas.

English

Long-horizon agents depend on context management: systems compress, summarize, and evict old tokens so tasks can continue beyond finite windows. That is safe only when dropped information is no longer needed or has been internalized. Plans are the stress case: they are written early, used for many steps, and first to be evicted. We introduce replay pairing, a diagnostic that runs the same trajectory with and without the plan in history and measures hidden-state cosine distance. On Llama-3.1-70B, plan signal spikes to 0.453 one step after the plan, then falls 4.1x in a single action-observation step; HotpotQA falls 12.4x. This is evidence that standard LLM agents do not carry plans forward as persistent state, and instead depend on the plan remaining in context. A layer-L32 probe detects this decay as a diagnostic, not as proof that it reads plan content itself. Reasoning models add a measurement confound: their `<think>` traces re-derive plan content, so standard stripping leaves plan evidence in the stripped condition. We name this the reasoning-trace confound and fix it with strict stripping, which removes prior `<think>` blocks from the stripped run only. It recovers +163% of the step+1 signal in-sample and +153% held out, while not meaningfully changing non-reasoning Llama (+4.8%). On DeepSeek-R1-Distill-Llama-70B, a Llama-trained probe transfers at AUROC 0.748 (p=6e-4), while R1-specific probes reach 1.000, suggesting R1 encodes plan signal in a different hidden-state direction. Finally, a compression stress test shows the practical cost: naive plan eviction cuts ALFWorld success by 34.7pp, while probe-gated re-surfacing does not recover it. The contribution is a measurement and stress-test framework showing that agent-critical information can be context-resident rather than persistent. Context management is load bearing, but plan protection alone is not enough.