EvolveMem : Architecture de mémoire auto-évolutive via AutoRecherche pour des agents LLM

Résumé

La mémoire à long terme est essentielle pour les agents LLM opérant sur plusieurs sessions, pourtant les systèmes de mémoire existants considèrent l'infrastructure de récupération comme fixe : le contenu stocké évolue tandis que les fonctions de score, les stratégies de fusion et les politiques de génération de réponses restent figées lors du déploiement. Nous soutenons qu'une mémoire véritablement adaptative nécessite une co-évolution à deux niveaux : les connaissances stockées et le mécanisme de récupération qui les interroge. Nous présentons EvolveMem, une architecture de mémoire auto-évolutive qui expose sa configuration de récupération complète sous la forme d'un espace d'actions structuré optimisé par un module de diagnostic basé sur un LLM. À chaque cycle d'évolution, le module lit les journaux d'échecs par question, identifie les causes profondes et propose des ajustements ciblés de la configuration ; un méta-analyseur gardé les applique avec des garanties de retour automatique en cas de régression et d'exploration en cas de stagnation. Cette auto-évolution en boucle fermée réalise un processus d'auto-recherche : le système mène de manière autonome des cycles de recherche itératifs sur sa propre architecture, remplaçant le réglage manuel de la configuration. En partant d'une configuration minimale de base, le processus converge de manière autonome, découvrant des stratégies de récupération efficaces, y compris des dimensions de configuration entièrement nouvelles absentes de l'espace d'actions original. Sur LoCoMo, EvolveMem surpasse la meilleure référence de 25,7 % en termes relatifs et réalise une amélioration relative de 78,0 % par rapport à la configuration de base minimale. Sur MemBench, EvolveMem dépasse la meilleure référence de 18,9 % en termes relatifs. Les configurations évoluées se transfèrent entre les bancs d'essai avec un transfert positif plutôt que catastrophique, indiquant que le processus d'auto-évolution capture des principes universels de récupération plutôt que des heuristiques spécifiques au banc d'essai. Le code est disponible à l'adresse https://github.com/aiming-lab/SimpleMem.

English

Long-term memory is essential for LLM agents that operate across multiple sessions, yet existing memory systems treat retrieval infrastructure as fixed: stored content evolves while scoring functions, fusion strategies, and answer-generation policies remain frozen at deployment. We argue that truly adaptive memory requires co-evolution at two levels: the stored knowledge and the retrieval mechanism that queries it. We present EvolveMem, a self-evolving memory architecture that exposes its full retrieval configuration as a structured action space optimized by an LLM-powered diagnosis module. In each evolution round, the module reads per-question failure logs, identifies root causes, and proposes targeted configuration adjustments; a guarded meta-analyzer applies them with automatic revert-on-regression and explore-on-stagnation safeguards. This closed-loop self-evolution realizes an AutoResearch process: the system autonomously conducts iterative research cycles on its own architecture, replacing manual configuration tuning. Starting from a minimal baseline, the process converges autonomously, discovering effective retrieval strategies including entirely new configuration dimensions not present in the original action space. On LoCoMo, EvolveMem outperforms the strongest baseline by 25.7% relative and achieves a 78.0% relative improvement over the minimal baseline. On MemBench, EvolveMem exceeds the strongest baseline by 18.9% relative. Evolved configurations transfer across benchmarks with positive rather than catastrophic transfer, indicating that the self-evolution process captures universal retrieval principles rather than benchmark-specific heuristics. Code is available at https://github.com/aiming-lab/SimpleMem.