Саморазвивающееся извлечение памяти больших языковых моделей в условиях разнородных задач
Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks
April 13, 2026
Авторы: Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia
cs.AI
Аннотация
По мере того как помощники на основе больших языковых моделей (LLM) становятся постоянными и персонализированными, они должны извлекать и сохранять полезную информацию из прошлых разговоров в качестве памяти. Однако типы информации, которые стоит запоминать, значительно различаются в зависимости от задач. Мы формализуем задачу извлечения гетерогенной памяти и представляем BEHEMOTH — эталонный набор данных, который перепрофилирует 18 существующих наборов, охватывающих задачи персонализации, решения проблем и агентской деятельности, используя ориентированную на полезность метрику для систематической оценки. Наш эмпирический анализ подтверждает, что ни один статический промпт для извлечения не является доминирующим во всех категориях задач, и что существующие фреймворки саморазвивающейся оптимизации промптов, изначально разработанные для гомогенных распределений, деградируют, когда обучающие задачи являются гетерогенными. Чтобы решить эту проблему, мы предлагаем CluE, кластерную саморазвивающуюся стратегию, которая группирует обучающие примеры в кластеры по сценариям извлечения, анализирует каждый кластер независимо и синтезирует межкластерные инсайты для обновления промпта извлечения. Эксперименты на BEHEMOTH показывают, что CluE эффективно обобщает знания для гетерогенных задач (+9.04% относительного выигрыша), стабильно превосходя предыдущие фреймворки саморазвития.
English
As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the heterogeneous memory extraction task and introduce BEHEMOTH, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose CluE, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks (+9.04\% relative gain), consistently outperforming prior self-evolving frameworks.