MemForest: Un Sistema de Memoria de Agente Eficiente con Indexación Temporal Jerárquica

Resumen

La memoria es un componente fundamental para habilitar agentes LLM de contexto largo, ya que permite un estado persistente a través de las interacciones mediante un ciclo continuo de servicio y actualización. A pesar de la considerable investigación previa, los sistemas existentes sufren una sobrecarga de mantenimiento significativa debido a dos limitaciones clave: la gestión de estados a nivel grueso y los pipelines de actualización inherentemente secuenciales. En particular, las actualizaciones suelen estar estrechamente acopladas con la inferencia del LLM y requieren reescrituras completas del estado, lo que conduce a una escalabilidad deficiente y a una latencia creciente a medida que la memoria se acumula. Para abordar estos desafíos, presentamos MemForest, un marco de memoria que reformula la memoria del agente como un problema de gestión de datos temporales eficiente en escritura. MemForest rompe el cuello de botella secuencial mediante la extracción paralela de fragmentos, desacoplando la construcción de la memoria en operaciones concurrentes e independientes. Para eliminar aún más el mantenimiento a nivel grueso, introducimos MemTree, un índice temporal jerárquico que organiza la memoria como árboles ordenados por tiempo en lugar de resúmenes globales planos. Este diseño reemplaza las reescrituras de estado completo con actualizaciones localizadas por nodo, reduciendo el costo de mantenimiento a las rutas de árbol afectadas, mientras preserva naturalmente los estados que evolucionan temporalmente. Evaluamos MemForest en dos referencias de memoria de contexto largo: LongMemEval-S y LoCoMo. En LongMemEval-S, MemForest logra el mejor rendimiento general entre las líneas base con estado, alcanzando un 79.8% de precisión pass@1, mientras mantiene un rendimiento de construcción de memoria aproximadamente 6 veces mayor que los enfoques de vanguardia, incluido EverMemOS.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.