MemForest: Um Sistema de Memória de Agente Eficiente com Indexação Temporal Hierárquica

Resumo

A memória é um componente fundamental para habilitar agentes de LLM de contexto longo, suportando estado persistente entre interações através de um ciclo contínuo de serviço e atualização. Apesar de trabalhos anteriores substanciais, os sistemas existentes sofrem de sobrecarga significativa de manutenção devido a duas limitações principais: gerenciamento de estado de granularidade grossa e pipelines de atualização inerentemente sequenciais. Em particular, as atualizações são frequentemente fortemente acopladas à inferência do LLM e exigem reescritas completas do estado, levando a baixa escalabilidade e latência crescente à medida que a memória se acumula. Para enfrentar esses desafios, apresentamos o MemForest, um framework de memória que reformula a memória do agente como um problema de gerenciamento de dados temporal eficiente em escrita. O MemForest quebra o gargalo sequencial por meio de extração paralela de chunks, desacoplando a construção da memória em operações concorrentes e independentes. Para eliminar ainda mais a manutenção de granularidade grossa, introduzimos o MemTree, um índice temporal hierárquico que organiza a memória como árvores ordenadas no tempo, em vez de sumários globais planos. Esse design substitui reescritas completas do estado por atualizações localizadas por nó, reduzindo o custo de manutenção aos caminhos de árvore afetados, enquanto preserva naturalmente estados que evoluem temporalmente. Avaliamos o MemForest em dois benchmarks de memória de contexto longo, LongMemEval-S e LoCoMo. No LongMemEval-S, o MemForest alcança o melhor desempenho geral entre as linhas de base com estado, atingindo 79,8% de precisão pass@1, enquanto sustenta uma taxa de transferência de construção de memória aproximadamente 6 vezes maior do que abordagens de ponta, incluindo EverMemOS.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.