MemForest: Ein effizientes Agenten-Gedächtnissystem mit hierarchischer zeitlicher Indexierung

Zusammenfassung

Speicher ist eine grundlegende Komponente für die Ermöglichung von LLM-Agenten mit langem Kontext, die einen persistenten Zustand über Interaktionen hinweg durch einen kontinuierlichen Serve-and-Update-Lebenszyklus unterstützen. Trotz erheblicher Vorarbeiten leiden bestehende Systeme unter erheblichem Wartungsaufwand, der auf zwei wesentliche Einschränkungen zurückzuführen ist: grobkörniges Zustandsmanagement und inhärent sequenzielle Aktualisierungspipelines. Insbesondere sind Aktualisierungen oft eng mit der LLM-Inferenz gekoppelt und erfordern vollständige Zustandsüberschreibungen, was zu schlechter Skalierbarkeit und zunehmender Latenz führt, je mehr Speicher sich ansammelt. Um diese Herausforderungen zu bewältigen, stellen wir MemForest vor, ein Speicherframework, das Agentenspeicher als ein schreibeffizientes Problem des temporären Datenmanagements umformuliert. MemForest durchbricht den sequenziellen Engpass durch parallele Chunk-Extraktion und entkoppelt die Speicherkonstruktion in gleichzeitige, unabhängige Operationen. Um die grobkörnige Wartung weiter zu eliminieren, führen wir MemTree ein, einen hierarchischen temporären Index, der Speicher als zeitlich geordnete Bäume und nicht als flache globale Zusammenfassungen organisiert. Dieses Design ersetzt vollständige Zustandsüberschreibungen durch lokalisierte knotenweise Aktualisierungen, reduziert den Wartungsaufwand auf die betroffenen BaumPfade und bewahrt gleichzeitig natürlich zeitlich entwickelnde Zustände. Wir bewerten MemForest anhand zweier Langkontext-Speicherbenchmarks, LongMemEval-S und LoCoMo. Auf LongMemEval-S erreicht MemForest die beste Gesamtleistung unter den zustandsbehafteten Basislinien mit einer Pass@1-Genauigkeit von 79,8 % und einem Speicherkonstruktionsdurchsatz, der etwa 6-mal höher ist als bei modernsten Ansätzen wie EverMemOS.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.