従来のキャッシュポリシーが失敗するとき：セマンティック検索バッファのための学習拡張型置換

要旨

LLMエージェントは、過去の経験を保存・再利用するために検索バッファに依存することが増えているが、これらのバッファを管理するキャッシュ管理ポリシーは、ほとんどがアドホックなままである。我々はこれを、切り替えコストを伴うオンライン意味的キャッシュ置換問題として定式化する。ここでは、アイテムは埋め込み類似度によって照合され、ヒット品質は二値ではなく連続的である。MemoryBench-Full（LoCoMo、DialSim）の2つのデータセットにおいて、8つの置換ポリシーを用いた実験を通じて、我々は驚くべき発見を明らかにする：古典的ヒューリスティクス（LRU、LFU）は、時間的局所性と頻度集中の欠如により、意味的ワークロードにおいて一貫して単純なFIFOベースラインに劣る。我々はSOLARを提案する。これは学習拡張フレームワークであり、後悔蓄積から修正タイミングを導出し（約17%の修正率を達成）、暗黙的検索フィードバックに対するベイズ型オンライン学習から内容選択を導出する。我々はSOLARが定数競合比≤3を達成することを証明する。これはキャッシュサイズと期間に依存せず（FIFOのΩ(K)に対して）、また削除後悔O(KT log T)を達成し、対数因子を除いて下限Ω(KT)に一致する。実験では、厳しいキャッシュサイズにおいてFIFOに対して5～75%の相対的改善を示し、ワーキングセット境界で明確に特徴づけられた相転移が観察される。5000項目のプールを用いた合成実験により、プールサイズと検索品質の間に逆U字関係があることがさらに明らかになり、容量制約がストレージ制限ではなく検索ノイズ現象であることが正当化される。

English

LLM agents increasingly rely on retrieval buffers to store and reuse past experience, yet the cache management policies governing these buffers remain largely ad-hoc. We formalize this as an online semantic cache replacement problem with switching costs, where items are matched by embedding similarity and hit quality is continuous rather than binary. Through experiments on two datasets from MemoryBench-Full (LoCoMo, DialSim) with 8 replacement policies, we reveal a surprising finding: classic heuristics (LRU, LFU) consistently underperform the naive FIFO baseline on semantic workloads, due to the absence of temporal locality and frequency concentration. We propose SOLAR, a learning-augmented framework that derives modification timing from regret accumulation (achieving sim17\% modification rate) and content selection from Bayesian online learning over implicit retrieval feedback. We prove SOLAR achieves a constant competitive ratio leq 3, independent of cache size and horizon (vs.\ Ω(K) for FIFO), and eviction regret O(KTlog T), matching the Ω(KT) lower bound up to logarithmic factors. Experiments demonstrate 5--75\% relative improvement over FIFO at tight cache sizes, with a clearly characterized phase transition at the working set boundary. Synthetic experiments with 5000-item pools further reveal an inverted-U relationship between pool size and retrieval quality, justifying capacity constraints as a retrieval noise phenomenon rather than a storage limitation.