Estrazione della Memoria Auto-Evolutiva degli LLM attraverso Task Eterogenei
Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks
April 13, 2026
Autori: Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia
cs.AI
Abstract
Man mano che gli assistenti basati su LLM diventano persistenti e personalizzati, devono estrarre e conservare informazioni utili dalle conversazioni passate come memoria. Tuttavia, i tipi di informazioni che vale la pena ricordare variano considerevolmente a seconda dei compiti. Formalizziamo il compito di estrazione eterogenea della memoria e introduciamo BEHEMOTH, un benchmark che ripropone 18 dataset esistenti che abbracciano compiti di personalizzazione, problem-solving e agentici, utilizzando una metrica guidata dall'utilità a valle per una valutazione sistematica. La nostra analisi empirica conferma che non esiste un singolo prompt di estrazione statico che domini tutte le categorie di compiti, e che i framework esistenti di ottimizzazione self-evolving dei prompt, originariamente progettati per distribuzioni omogenee, si degradano quando i compiti di addestramento sono eterogenei. Per affrontare questo problema, proponiamo CluE, una strategia di auto-evoluzione basata su cluster che raggruppa esempi di addestramento in cluster per scenario di estrazione, analizza ogni cluster in modo indipendente e sintetizza le intuizioni cross-cluster per aggiornare il prompt di estrazione. Esperimenti su BEHEMOTH mostrano che CluE generalizza efficacemente attraverso compiti eterogenei (+9,04% di guadagno relativo), superando costantemente i precedenti framework di auto-evoluzione.
English
As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the heterogeneous memory extraction task and introduce BEHEMOTH, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose CluE, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks (+9.04\% relative gain), consistently outperforming prior self-evolving frameworks.