Extração de Memória Auto-Evolutiva de LLM em Tarefas Heterogêneas
Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks
April 13, 2026
Autores: Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia
cs.AI
Resumo
À medida que os assistentes baseados em LLM se tornam persistentes e personalizados, eles devem extrair e reter informações úteis de conversas passadas como memória. No entanto, os tipos de informação que valem a pena lembrar variam consideravelmente entre diferentes tarefas. Formalizamos a tarefa de extração de memória heterogênea e introduzimos o BEHEMOTH, um benchmark que reaproveita 18 conjuntos de dados existentes abrangendo tarefas de personalização, resolução de problemas e tarefas agentivas, utilizando uma métrica orientada pela utilidade a jusante para avaliação sistemática. Nossa análise empírica confirma que nenhum prompt de extração estático único domina todas as categorias de tarefas, e que as estruturas existentes de otimização de prompts auto-evolutivas, originalmente projetadas para distribuições homogêneas, degradam-se quando as tarefas de treinamento são heterogêneas. Para resolver isso, propomos o CluE, uma estratégia auto-evolutiva baseada em agrupamento que agrupa exemplos de treinamento em clusters por cenários de extração, analisa cada cluster independentemente e sintetiza percepções inter-clusters para atualizar o prompt de extração. Experimentos no BEHEMOTH mostram que o CluE generaliza-se efetivamente em tarefas heterogêneas (+9,04% de ganho relativo), superando consistentemente estruturas auto-evolutivas anteriores.
English
As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the heterogeneous memory extraction task and introduce BEHEMOTH, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose CluE, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks (+9.04\% relative gain), consistently outperforming prior self-evolving frameworks.