Vom Speicher zur Erfahrung: Ein Überblick über die Entwicklung der Gedächtnismechanismen von LLM-Agenten

Zusammenfassung

Auf Large Language Models (LLMs) basierende Agenten haben die künstliche Intelligenz durch die Integration externer Werkzeuge und Planungsfähigkeiten grundlegend verändert. Während Gedächtnismechanismen als architektonischer Eckpfeiler dieser Systeme hervorgegangen sind, bleibt die aktuelle Forschung fragmentiert und pendelt zwischen Betriebssystemtechnik und Kognitionswissenschaft. Diese theoretische Kluft verhindert eine einheitliche Sicht auf die technologische Synthese und eine kohärente evolutionäre Perspektive. Um diese Lücke zu schließen, schlägt diese Übersichtsarbeit einen neuartigen evolutionären Rahmen für Gedächtnismechanismen von LLM-Agenten vor, der den Entwicklungsprozess in drei Stufen formalisiert: Speicherung (Erhalt von Trajektorien), Reflexion (Verfeinerung von Trajektorien) und Erfahrung (Abstraktion von Trajektorien). Wir definieren zunächst diese drei Stufen formell, bevor wir die drei Kernantriebskräfte dieser Evolution analysieren: die Notwendigkeit langfristiger Konsistenz, die Herausforderungen in dynamischen Umgebungen und das ultimative Ziel des kontinuierlichen Lernens. Darüber hinaus untersuchen wir speziell zwei transformative Mechanismen in der fortgeschrittenen Erfahrungsstufe: proaktive Exploration und trajektorienübergreifende Abstraktion. Durch die Synthese dieser unterschiedlichen Sichtweisen bietet diese Arbeit robuste Designprinzipien und eine klare Roadmap für die Entwicklung von LLM-Agenten der nächsten Generation.

English

Large Language Model (LLM)-based agents have fundamentally reshaped artificial intelligence by integrating external tools and planning capabilities. While memory mechanisms have emerged as the architectural cornerstone of these systems, current research remains fragmented, oscillating between operating system engineering and cognitive science. This theoretical divide prevents a unified view of technological synthesis and a coherent evolutionary perspective. To bridge this gap, this survey proposes a novel evolutionary framework for LLM agent memory mechanisms, formalizing the development process into three stages: Storage (trajectory preservation), Reflection (trajectory refinement), and Experience (trajectory abstraction). We first formally define these three stages before analyzing the three core drivers of this evolution: the necessity for long-range consistency, the challenges in dynamic environments, and the ultimate goal of continual learning. Furthermore, we specifically explore two transformative mechanisms in the frontier Experience stage: proactive exploration and cross-trajectory abstraction. By synthesizing these disparate views, this work offers robust design principles and a clear roadmap for the development of next-generation LLM agents.