MemForest: Эффективная система памяти агента с иерархическим временным индексированием

Аннотация

Память является фундаментальным компонентом для обеспечения работы долгоконтекстных LLM-агентов, поддерживая устойчивое состояние при взаимодействиях через непрерывный жизненный цикл обслуживания и обновления. Несмотря на значительный объём предшествующих работ, существующие системы страдают от существенных накладных расходов на обслуживание из-за двух ключевых ограничений: крупнозернистого управления состоянием и по своей сути последовательных конвейеров обновления. В частности, обновления часто тесно связаны с логическим выводом LLM и требуют полной перезаписи состояния, что приводит к низкой масштабируемости и растущей задержке по мере накопления памяти. Для решения этих проблем мы представляем MemForest — фреймворк для работы с памятью, который переформулирует память агента как задачу управления темпоральными данными, эффективную по записи. MemForest устраняет последовательное узкое место с помощью параллельного извлечения фрагментов, разделяя построение памяти на параллельные независимые операции. Чтобы дополнительно устранить крупнозернистое обслуживание, мы вводим MemTree — иерархический темпоральный индекс, который организует память в виде деревьев, упорядоченных по времени, а не плоских глобальных сводок. Такая конструкция заменяет полные перезаписи состояния локализованными поузловыми обновлениями, снижая затраты на обслуживание до затрагиваемых путей в дереве, при этом естественным образом сохраняя темпорально изменяющиеся состояния. Мы оцениваем MemForest на двух долгоконтекстных бенчмарках памяти: LongMemEval-S и LoCoMo. На LongMemEval-S MemForest достигает наилучшей общей производительности среди baseline-решений с состоянием, достигая точности pass@1 в 79,8% при сохранении пропускной способности построения памяти примерно в 6 раз выше, чем у передовых подходов, включая EverMemOS.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.