MemForest : un système de mémoire d'agent efficace avec indexation temporelle hiérarchique

Résumé

La mémoire est un composant fondamental pour permettre aux agents LLM à long contexte, en soutenant un état persistant à travers les interactions via un cycle de vie continu de service et de mise à jour. Malgré des travaux antérieurs substantiels, les systèmes existants souffrent d'une charge de maintenance importante en raison de deux limitations clés : une gestion d'état à granularité grossière et des pipelines de mise à jour intrinsèquement séquentiels. En particulier, les mises à jour sont souvent étroitement couplées à l'inférence LLM et nécessitent des réécritures complètes de l'état, ce qui entraîne une mauvaise évolutivité et une latence croissante à mesure que la mémoire s'accumule. Pour relever ces défis, nous présentons MemForest, un cadre mémoire qui reformule la mémoire des agents comme un problème de gestion de données temporelles efficace en écriture. MemForest brise le goulot d'étranglement séquentiel via une extraction de chunks en parallèle, découplant la construction de la mémoire en opérations concurrentes et indépendantes. Pour éliminer davantage la maintenance à granularité grossière, nous introduisons MemTree, un index temporel hiérarchique qui organise la mémoire sous forme d'arbres ordonnés dans le temps plutôt que de résumés globaux plats. Cette conception remplace les réécritures complètes de l'état par des mises à jour localisées par nœud, réduisant le coût de maintenance aux chemins d'arbre affectés tout en préservant naturellement les états évoluant dans le temps. Nous évaluons MemForest sur deux benchmarks de mémoire à long contexte, LongMemEval-S et LoCoMo. Sur LongMemEval-S, MemForest atteint la meilleure performance globale parmi les bases de référence avec état, atteignant une précision pass@1 de 79,8 % tout en soutenant un débit de construction mémoire environ 6 fois supérieur à celui des approches de pointe, dont EverMemOS.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.