MemForest: een efficiënt agentengeheugensysteem met hiërarchische temporele indexering

Samenvatting

Geheugen is een fundamenteel onderdeel voor het mogelijk maken van LLM-agenten met lange context, waarbij persistente toestand wordt ondersteund in interacties door middel van een continue server-en-updatelcyclus. Ondanks aanzienlijk eerder werk, lijden bestaande systemen onder aanzienlijke onderhoudsoverhead vanwege twee belangrijke beperkingen: grofkorrelig toestandsbeheer en inherent sequentiële updatepijplijnen. In het bijzonder zijn updates vaak nauw gekoppeld aan LLM-inferentie en vereisen ze volledige toestandsherschrijvingen, wat leidt tot slechte schaalbaarheid en toenemende latentie naarmate het geheugen accumuleert. Om deze uitdagingen aan te pakken, presenteren we MemForest, een geheugenframework dat agentgeheugen herformuleert als een schrijfefficiënt tijdelijk gegevensbeheerprobleem. MemForest doorbreekt de sequentiële bottleneck via parallelle chunkextractie, waardoor geheugenconstructie wordt ontkoppeld in gelijktijdige, onafhankelijke bewerkingen. Om grofkorrelig onderhoud verder te elimineren, introduceren we MemTree, een hiërarchische temporele index die geheugen organiseert als tijdsgeordende bomen in plaats van platte globale samenvattingen. Dit ontwerp vervangt volledige toestandsherschrijvingen door gelokaliseerde per-node-updates, waardoor onderhoudskosten worden beperkt tot de getroffen boompaden terwijl tijdelijk evoluerende toestanden natuurlijk behouden blijven. We evalueren MemForest op twee lange-context-geheugenbenchmarks, LongMemEval-S en LoCoMo. Op LongMemEval-S behaalt MemForest de beste algehele prestaties onder stateful-baselines, met een pass@1-nauwkeurigheid van 79,8% terwijl het een geheugenconstructiedoorvoer handhaaft die ongeveer 6x hoger is dan state-of-the-art benaderingen, waaronder EverMemOS.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.