MemForest: 계층적 시간 색인을 이용한 효율적인 에이전트 메모리 시스템

초록

메모리는 장문맥 LLM 에이전트를 가능하게 하는 기본 구성 요소로, 지속적인 서비스 및 업데이트 생애주기를 통해 상호작용 간 영구 상태를 지원합니다. 상당한 기존 연구에도 불구하고, 기존 시스템은 세분화되지 않은 상태 관리와 본질적으로 순차적인 업데이트 파이프라인이라는 두 가지 주요 한계로 인해 상당한 유지보수 오버헤드를 겪습니다. 특히, 업데이트는 종종 LLM 추론과 밀접하게 결합되어 전체 상태 재작성이 필요하며, 이는 확장성 저하와 메모리 축적에 따른 지연 시간 증가로 이어집니다. 이러한 문제를 해결하기 위해, 우리는 에이전트 메모리를 쓰기 효율적인 시간적 데이터 관리 문제로 재구성하는 메모리 프레임워크인 MemForest를 제시합니다. MemForest는 병렬 청크 추출을 통해 순차적 병목을 해소하여 메모리 구성을 동시적이고 독립적인 작업으로 분리합니다. 세분화되지 않은 유지보수를 추가로 제거하기 위해, 우리는 메모리를 평면적 전역 요약 대신 시간 순서 트리로 구성하는 계층적 시간 색인인 MemTree를 도입합니다. 이 설계는 전체 상태 재작성을 국소적 노드별 업데이트로 대체하여 영향을 받은 트리 경로로 유지보수 비용을 줄이면서 시간적으로 진화하는 상태를 자연스럽게 보존합니다. 우리는 두 가지 장문맥 메모리 벤치마크인 LongMemEval-S와 LoCoMo에서 MemForest를 평가합니다. LongMemEval-S에서 MemForest는 상태 기반 기준선 중 최고의 전반적 성능을 달성하여 79.8%의 pass@1 정확도를 보였으며, EverMemOS를 포함한 최첨단 접근법보다 약 6배 더 높은 메모리 구축 처리량을 유지했습니다.

English

Memory is a fundamental component for enabling long-context LLM agents, supporting persistent state across interactions through a continuous serve-and-update lifecycle. Despite substantial prior work, existing systems suffer from significant maintenance overhead due to two key limitations: coarse-grained state management and inherently sequential update pipelines. In particular, updates are often tightly coupled with LLM inference and require full-state rewrites, leading to poor scalability and growing latency as memory accumulates. To address these challenges, we present MemForest, a memory framework that reformulates agent memory as a write-efficient temporal data management problem. MemForest breaks the sequential bottleneck via parallel chunk extraction, decoupling memory construction into concurrent, independent operations. To further eliminate coarse-grained maintenance, we introduce MemTree, a hierarchical temporal index that organizes memory as time-ordered trees rather than flat global summaries. This design replaces full-state rewrites with localized per-node updates, reducing maintenance cost to the affected tree paths while naturally preserving temporally evolving states. We evaluate MemForest on two long-context memory benchmarks, LongMemEval-S and LoCoMo. On LongMemEval-S, MemForest achieves the best overall performance among stateful baselines, reaching 79.8% pass@1 accuracy while sustaining a memory construction throughput approximately 6x higher than state-of-the-art approaches including EverMemOS.