ChatPaper.aiChatPaper

グローバルに計算し、ローカルに実体化する:スパースイベントKVのメモリ契約

Compute Globally, Materialize Locally: The Memory Contract of Sparse Event-KV

July 26, 2026
著者: Zefeng Cai, Zerui Cai
cs.AI

要旨

長期的なエージェントは、そのKVキャッシュをメモリとして再利用することが増えている。サービス提供システムは、キャッシュされたエントリの一部を保持し、残りを破棄する。したがって、エビクション方式とエピソード記憶方式は、直接テストされることがほとんどない前提、すなわち「それを生成した観測が消えた後も、保持されたイベントが依然として有益である」という前提に依存している。我々はこの前提を、それ以外は同一のエージェント履歴において、提供される内容から以前の観測を1つ省略することによって検証した。その観測に敏感な項目のうち、回答は圧倒的に省略された値に従っていた。ただし、提供されたスパンにはどの値が正しいかを示すものは一切ない。我々はこれをセマンティック・マテリアライゼーション(意味的具現化)と呼ぶ。すなわち、下流のイベントのキャッシュ行は、入力が消えた計算の独立してサービス可能なビューとして機能する。これは意図的に書き込むこともできる。意図的に表現された回答を含まないイベントは、値を一切明示することなく、Qwen3-8Bにおいてドナー整合の回復率を6%から51%に引き上げる。一方、長期対話から自然な言及を受動的に収集しても、検出可能な利点は得られない。このような行が保持する内容は、特定的かつ限定的である。コンパクトな状態は生き残る一方、より大きなペイロードはチャンスレベルに向かって減衰する。また、ある構文が書き込みを行うかどうかは、意味のみならず表現方法に依存するため、モデルが同等に理解する2つの表現であっても、結果が大きく乖離することがある。この結果は、スパースなイベントKVサービスにおけるメモリ契約を示すものである。すなわち、何を書き込むか、どこに配置されるか、そしてソースが消えた後に何が生き残るか、ということである。エビクションを行う者にとっての帰結は、ソースイベントを破棄しても精度の低下が見られないことは、そのソースが不要であったことを示すものではない、ということである。
English
Long-horizon agents increasingly reuse their KV cache as memory: a serving system keeps a subset of cached entries and drops the rest. Eviction and episodic-memory schemes therefore rest on a premise rarely tested directly, that a retained event is still informative once the observations that produced it are gone. We test it by omitting one earlier observation from what is served, across otherwise identical agent histories. Among items sensitive to that observation, the answer overwhelmingly follows the omitted value, though no served span says which value is correct. We call this semantic materialization: a downstream event's cached rows act as an independently servable view of computation whose inputs are gone. It can also be written on purpose. A deliberately phrased, answer-free event raises donor-aligned recovery from 6% to 51% on Qwen3-8B without ever naming the value, whereas passively harvesting natural mentions from long-term dialog yields no detected advantage. What such a row carries is specific and bounded. Compact state survives, larger payloads decay toward chance, and whether a construction writes at all turns on phrasing rather than on meaning alone, so two phrasings the model comprehends equally well can diverge sharply. The result is a memory contract for sparse event-KV serving: what to write, where it lands, and what survives once the source is gone. For anyone who evicts the corollary is that dropping a source event and observing no accuracy loss does not show the source was unnecessary.