Extraction de Mémoire Auto-Évolutive des LLM à Travers des Tâches Hétérogènes
Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks
April 13, 2026
Auteurs: Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia
cs.AI
Résumé
À mesure que les assistants basés sur LLM deviennent persistants et personnalisés, ils doivent extraire et retenir des informations utiles des conversations passées sous forme de mémoire. Cependant, les types d'informations méritant d'être mémorisés varient considérablement selon les tâches. Nous formalisons la tâche d'extraction de mémoire hétérogène et présentons BEHEMOTH, un benchmark qui réutilise 18 jeux de données existants couvrant des tâches de personnalisation, de résolution de problèmes et agentiques, en utilisant une métrique utilitaire en aval pour une évaluation systématique. Notre analyse empirique confirme qu'aucune invite d'extraction statique unique ne domine toutes les catégories de tâches, et que les cadres d'optimisation d'invites auto-évolutifs existants, conçus initialement pour des distributions homogènes, voient leurs performances se dégrader lorsque les tâches d'entraînement sont hétérogènes. Pour résoudre ce problème, nous proposons CluE, une stratégie auto-évolutive basée sur le clustering qui regroupe les exemples d'entraînement en clusters par scénarios d'extraction, analyse chaque cluster indépendamment et synthétise les insights inter-clusters pour mettre à jour l'invite d'extraction. Les expériences sur BEHEMOTH montrent que CluE généralise efficacement sur des tâches hétérogènes (+9,04 % de gain relatif), surpassant constamment les cadres auto-évolutifs antérieurs.
English
As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the heterogeneous memory extraction task and introduce BEHEMOTH, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose CluE, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks (+9.04\% relative gain), consistently outperforming prior self-evolving frameworks.