LycheeMemory V2: 意味的セグメントレベル統合によるLLMエージェントの効率的な長期記憶

要旨

長期的なタスクを遂行するLLMエージェントは、将来のタスクを支援するために過去のやり取りから情報を保持する必要がある。既存のメモリシステムは通常、即時統合に依存し、各やり取りの後にLLMを呼び出してメモリの抽出、要約、更新を行う。この設計では、会話が長くなるにつれてメモリ構築のコストが増大する。粗い要約は構築コストを削減できるが、細かい文脈的証拠を失うリスクがあり、一方で検索コンテキストを拡大したりマルチホップのLLM推論を用いたりすると、オーバーヘッドがクエリ時に移る。本稿では、ターンレベルの統合を意味的セグメントレベルの統合に置き換えた効率的な長期メモリフレームワークであるLycheeMemory V2を提案する。LycheeMemoryはすべてのやり取りを統合する代わりに、複数のやり取りをセグメントにまとめ、確定した各セグメントを文脈非依存の型付きメモリレコードに符号化する。セグメントレベルのバッチ処理はLLMの符号化頻度を下げ、意味的境界検出は固定ウィンドウのバッチ処理と比較して、一貫性のあるイベントレベルおよび時間的証拠を保持するのに役立つ。得られたレコードは、クエリ計画に基づく証拠検索のための軽量な構造化インデックスによって整理される。GPT-4.1-Miniを用いた実験では、LycheeMemoryは最先端の性能を達成し、LoCoMoで89.22%、LongMemEval-Sで92.20%を記録した。また、A-Memと比較して、クエリ時のトークン使用量を増やすことなく、構築トークンをLoCoMoで86.0%、LongMemEval-Sで75.9%削減した。さらに広く見ると、我々の結果は、長期エージェントメモリにおける精度とコストのトレードオフが、保持する情報の内容だけでなく、統合を行う粒度にも依存することを示唆している。

English

Long-horizon LLM agents must preserve information from past interactions to support future tasks. Existing memory systems typically rely on eager consolidation, invoking LLMs after each interaction to extract, summarize, or update memories. This design makes memory construction increasingly costly as conversations grow. Coarse summarization can reduce construction cost but risks discarding fine-grained contextual evidence, whereas larger retrieval contexts or multi-hop LLM reasoning shift the overhead to query time. We present LycheeMemory V2, an efficient long-term memory framework that replaces turn-level consolidation with semantic segment-level consolidation. Instead of consolidating every interaction, LycheeMemory batches multiple exchanges into segments and encodes each finalized segment into context-independent typed memory records. Segment-level batching lowers LLM encoding frequency, while semantic boundary detection helps preserve coherent event-level and temporal evidence compared with fixed-window batching. The resulting records are organized with lightweight structured indexes for query-planned evidence retrieval. Experiments using GPT-4.1-Mini show that LycheeMemory achieves state-of-the-art performance, reaching 89.22% on LoCoMo and 92.20% on LongMemEval-S. Compared with A-Mem, it reduces construction tokens by 86.0% on LoCoMo and 75.9% on LongMemEval-S without increasing query-time token usage. More broadly, our results suggest that the accuracy--cost trade-off of long-term agent memory depends not only on what information is retained, but also on the granularity at which it is consolidated.