전역 계산, 로컬 구체화: 희소 이벤트-KV의 메모리 계약

초록

장기 지평(long-horizon) 에이전트는 점점 더 KV 캐시를 메모리로 재사용한다. 즉, 서빙 시스템은 캐시된 항목의 일부를 유지하고 나머지를 버린다. 따라서 축출(eviction) 및 일화 기억(episodic-memory) 방식은 거의 직접 검증된 적이 없는 전제, 즉 유지된 사건이 그것을 생성한 관측이 사라진 뒤에도 여전히 정보를 제공한다는 전제에 의존한다. 우리는 그 외에는 동일한 에이전트 이력에서 서빙되는 내용으로부터 이전 관측 하나를 생략함으로써 이를 검증한다. 해당 관측에 민감한 항목들 사이에서 답변은 압도적으로 생략된 값을 따른다. 서빙되는 어떤 스팬(span)도 어느 값이 올바른지 말해주지 않음에도 불구하고 말이다. 우리는 이를 의미론적 구체화(semantic materialization)라고 부른다. 하위 사건의 캐시된 행이 입력이 사라진 계산에 대한 독립적으로 서빙 가능한 뷰로 작용한다는 것이다. 이는 의도적으로 작성될 수도 있다. 신중하게 표현된, 답이 없는 사건은 값을 전혀 명명하지 않으면서 Qwen3-8B에서 공여자 일치 회복률을 6%에서 51%로 끌어올린다. 반면, 장기 대화에서 자연스러운 언급을 수동적으로 수집하는 것은 검출 가능한 이점을 제공하지 않는다. 그러한 행이 담는 것은 구체적이고 한정적이다. 압축된 상태는 생존하지만 더 큰 페이로드는 우연 수준으로 붕괴하며, 어떤 구성이 실제로 기록되는지 여부는 의미만이 아니라 표현 방식에 달려 있다. 따라서 모델이 동등하게 잘 이해하는 두 표현도 급격히 갈라질 수 있다. 그 결과는 희소 이벤트-KV 서빙을 위한 메모리 계약이다. 무엇을 쓸지, 어디에 자리 잡는지, 그리고 출처가 사라진 후 무엇이 생존하는지가 그것이다. 축출을 수행하는 모든 이에게 이 귀결이 적용된다. 출처 사건을 버리고 정확도 손실이 관찰되지 않는다고 해서 그 출처가 불필요했다는 것이 입증되지는 않는다는 것이다.

English

Long-horizon agents increasingly reuse their KV cache as memory: a serving system keeps a subset of cached entries and drops the rest. Eviction and episodic-memory schemes therefore rest on a premise rarely tested directly, that a retained event is still informative once the observations that produced it are gone. We test it by omitting one earlier observation from what is served, across otherwise identical agent histories. Among items sensitive to that observation, the answer overwhelmingly follows the omitted value, though no served span says which value is correct. We call this semantic materialization: a downstream event's cached rows act as an independently servable view of computation whose inputs are gone. It can also be written on purpose. A deliberately phrased, answer-free event raises donor-aligned recovery from 6% to 51% on Qwen3-8B without ever naming the value, whereas passively harvesting natural mentions from long-term dialog yields no detected advantage. What such a row carries is specific and bounded. Compact state survives, larger payloads decay toward chance, and whether a construction writes at all turns on phrasing rather than on meaning alone, so two phrasings the model comprehends equally well can diverge sharply. The result is a memory contract for sparse event-KV serving: what to write, where it lands, and what survives once the source is gone. For anyone who evicts the corollary is that dropping a source event and observing no accuracy loss does not show the source was unnecessary.