이질적 작업 간 자기 진화 LLM 메모리 추출

초록

LLM 기반 어시스턴트가 지속적이고 개인화됨에 따라, 과거 대화에서 유용한 정보를 추출하여 메모리로 보존해야 합니다. 그러나 기억할 가치가 있는 정보 유형은 작업마다 크게 다릅니다. 본 연구는 이질적 메모리 추출 작업을 정형화하고, 개인화, 문제 해결, 에이전트 작업에 걸친 기존 18개 데이터셋을 재구성한 BEHEMOTH 벤치마크를 도입하여 체계적인 평가를 위한 하류 유틸리티 중심 지표를 사용합니다. 우리의 실증 분석에 따르면, 모든 작업 범주에서 단일 정적 추출 프롬프트가 우위를 점하지 않으며, 동질적 분포를 위해 설계된 기존 자기 진화형 프롬프트 최적화 프레임워크는 훈련 작업이 이질적일 경우 성능이 저하됩니다. 이를 해결하기 위해 우리는 CluE를 제안합니다. 이는 클러스터 기반 자기 진화 전략으로, 훈련 예시를 추출 시나리오별로 클러스터로 그룹화하고, 각 클러스터를 독립적으로 분석하며, 클러스터 간 통찰력을 종합하여 추출 프롬프트를 업데이트합니다. BEHEMOTH에 대한 실험 결과, CluE는 이질적 작업 전반에 걸쳐 효과적으로 일반화되며(+9.04% 상대적 이득), 기존 자기 진화형 프레임워크보다 일관되게 우수한 성능을 보입니다.

English

As LLM-based assistants become persistent and personalized, they must extract and retain useful information from past conversations as memory. However, the types of information worth remembering vary considerably across tasks. We formalize the heterogeneous memory extraction task and introduce BEHEMOTH, a benchmark that repurposes 18 existing datasets spanning personalization, problem-solving, and agentic tasks, using a downstream utility-driven metric for systematic evaluation. Our empirical analysis confirms that no single static extraction prompt dominates across all task categories, and that existing self-evolving prompt optimization frameworks, originally designed for homogeneous distributions, degrade when training tasks are heterogeneous. To address this, we propose CluE, a cluster-based self-evolving strategy that groups training examples into clusters by extraction scenarios, analyzes each cluster independently, and synthesizes cross-cluster insights to update the extraction prompt. Experiments on BEHEMOTH show that CluE generalizes effectively across heterogeneous tasks (+9.04\% relative gain), consistently outperforming prior self-evolving frameworks.

이질적 작업 간 자기 진화 LLM 메모리 추출

Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks

초록

Support