Mem0: Het bouwen van productieklaar AI-agents met schaalbare langetermijngeheugen

Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory

April 28, 2025

Auteurs: Prateek Chhikara, Dev Khant, Saket Aryan, Taranjeet Singh, Deshraj Yadav

cs.AI

Samenvatting

Grote Taalmodellen (LLM's) hebben een opmerkelijke vaardigheid getoond in het genereren van contextueel samenhangende reacties, maar hun vaste contextvensters vormen fundamentele uitdagingen voor het behouden van consistentie tijdens langdurige, meerdelige dialogen. Wij introduceren Mem0, een schaalbare, geheugen-centrische architectuur die dit probleem aanpakt door dynamisch belangrijke informatie uit lopende gesprekken te extraheren, te consolideren en op te halen. Op basis hiervan stellen we een verbeterde variant voor die gebruikmaakt van grafische geheugenrepresentaties om complexe relationele structuren tussen gesprekselementen vast te leggen. Door middel van uitgebreide evaluaties op de LOCOMO-benchmark vergelijken we onze aanpak systematisch met zes baselinecategorieën: (i) gevestigde geheugen-augmented systemen, (ii) retrieval-augmented generation (RAG) met verschillende chunkgroottes en k-waarden, (iii) een volledige-contextbenadering die de volledige gespreksgeschiedenis verwerkt, (iv) een open-source geheugenoplossing, (v) een propriëtair modelsysteem, en (vi) een toegewijd geheugenbeheerplatform. Empirische resultaten tonen aan dat onze methoden consistent alle bestaande geheugensystemen overtreffen op vier vraagcategorieën: single-hop, temporeel, multi-hop en open-domein. Opmerkelijk is dat Mem0 een relatieve verbetering van 26% behaalt in de LLM-as-a-Judge-metric ten opzichte van OpenAI, terwijl Mem0 met grafisch geheugen een ongeveer 2% hogere overall score bereikt dan de basisconfiguratie. Naast nauwkeurigheidswinst verminderen we ook aanzienlijk de computationele overhead in vergelijking met de volledige-contextmethode. In het bijzonder behaalt Mem0 een 91% lagere p95-latentie en bespaart het meer dan 90% tokencost, wat een overtuigende balans biedt tussen geavanceerde redeneervaardigheden en praktische implementatiebeperkingen. Onze bevindingen benadrukken de cruciale rol van gestructureerde, persistente geheugenmechanismen voor langdurige gesprekscoherentie, waardoor de weg wordt geëffend voor betrouwbaardere en efficiëntere LLM-gestuurde AI-agenten.

English

Large Language Models (LLMs) have demonstrated remarkable prowess in generating contextually coherent responses, yet their fixed context windows pose fundamental challenges for maintaining consistency over prolonged multi-session dialogues. We introduce Mem0, a scalable memory-centric architecture that addresses this issue by dynamically extracting, consolidating, and retrieving salient information from ongoing conversations. Building on this foundation, we further propose an enhanced variant that leverages graph-based memory representations to capture complex relational structures among conversational elements. Through comprehensive evaluations on LOCOMO benchmark, we systematically compare our approaches against six baseline categories: (i) established memory-augmented systems, (ii) retrieval-augmented generation (RAG) with varying chunk sizes and k-values, (iii) a full-context approach that processes the entire conversation history, (iv) an open-source memory solution, (v) a proprietary model system, and (vi) a dedicated memory management platform. Empirical results show that our methods consistently outperform all existing memory systems across four question categories: single-hop, temporal, multi-hop, and open-domain. Notably, Mem0 achieves 26% relative improvements in the LLM-as-a-Judge metric over OpenAI, while Mem0 with graph memory achieves around 2% higher overall score than the base configuration. Beyond accuracy gains, we also markedly reduce computational overhead compared to full-context method. In particular, Mem0 attains a 91% lower p95 latency and saves more than 90% token cost, offering a compelling balance between advanced reasoning capabilities and practical deployment constraints. Our findings highlight critical role of structured, persistent memory mechanisms for long-term conversational coherence, paving the way for more reliable and efficient LLM-driven AI agents.