異種タスク間における自己進化型大規模言語モデルの記憶抽出

Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks

April 13, 2026

著者: Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia

cs.AI

要旨

LLMベースのアシスタントが永続的かつパーソナライズされるにつれ、過去の対話から有用な情報を記憶として抽出・保持することが必須となる。しかし、記憶すべき情報の種類はタスクによって大きく異なる。本研究では、異種混合メモリ抽出タスクを形式化し、パーソナライゼーション、問題解決、エージェントタスクにまたがる18の既存データセットを再活用したベンチマークBEHEMOTHを提案する。これは、体系的な評価のため下流タスクの有用性に基づく指標を採用している。実証分析により、すべてのタスクカテゴリで優位性を持つ単一の静的抽出プロンプトは存在せず、均一な分布向けに設計された既存の自己進化型プロンプト最適化フレームワークは、訓練タスクが異種混合の場合に性能が低下することを確認した。この問題に対処するため、我々はCluEを提案する。これはクラスタベースの自己進化戦略であり、訓練事例を抽出シナリオごとにクラスタ化し、各クラスタを独立に分析し、クラスタ間の知見を統合して抽出プロンプトを更新する。BEHEMOTHにおける実験では、CluEが異種混合タスクにわたって効果的に一般化し（相対改善率+9.04%）、従来の自己進化フレームワークを一貫して上回ることを示した。

English

As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the heterogeneous memory extraction task and introduce BEHEMOTH, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose CluE, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks (+9.04\% relative gain), consistently outperforming prior self-evolving frameworks.