Память реконструируется, а не извлекается: Память на основе графов для LLM-агентов

Аннотация

Несмотря на недавний прогресс, агенты на основе больших языковых моделей (LLM) по-прежнему испытывают трудности с рассуждением на основе длинных историй взаимодействия. Хотя современные агенты с расширенной памятью полагаются на статическую парадигму «извлеки-затем-рассуждай», такая жесткая конвейерная конструкция не позволяет им динамически адаптировать доступ к памяти в зависимости от промежуточных свидетельств, обнаруживаемых в ходе вывода. Чтобы устранить этот пробел, мы предлагаем MRAgent — архитектуру, которая объединяет ассоциативный граф памяти с механизмом активной реконструкции. Мы представляем память в виде графа «Сигнал-Тег-Содержание», где ассоциативные теги служат семантическими мостами, соединяющими мелкозернистые сигналы с содержимым памяти. Работая на этой структуре, наш механизм активной реконструкции непосредственно интегрирует рассуждения LLM в процесс доступа к памяти, позволяя агенту итеративно исследовать и обрезать пути извлечения на основе накопленных свидетельств. Это гарантирует, что извлечение памяти динамически адаптируется к контексту рассуждения, избегая при этом комбинаторного взрыва, вызванного неограниченным расширением. Эксперименты на эталоне LoCoMo и эталоне LongMemEval демонстрируют значительные улучшения по сравнению с сильными базовыми моделями (до 23%), а также существенное снижение затрат токенов и времени выполнения, что подчеркивает эффективность активной и ассоциативной реконструкции для долгосрочного рассуждения с памятью.

English

Despite recent progress, LLM agents still struggle with reasoning over long interaction histories. While current memory-augmented agents rely on a static retrieve-then-reason paradigm, this rigid pipeline design prevents them from dynamically adapting memory access to intermediate evidence discovered during inference. To bridge this gap, we propose MRAgent, a framework that combines an associative memory graph with an active reconstruction mechanism. We represent memory as a Cue-Tag-Content graph, where associative tags serve as semantic bridges connecting fine-grained cues to memory contents. Operating on this structure, our active reconstruction mechanism integrates LLM reasoning directly into memory access, allowing the agent to iteratively explore and prune retrieval paths based on accumulated evidence. This ensures that memory retrieval is dynamically adapted to the reasoning context while avoiding combinatorial explosion caused by unconstrained expansion. Experiments on the LoCoMo benchmark and LongMemEval benchmark demonstrate significant improvements over strong baselines (up to 23%), while substantially reducing token and runtime cost, highlighting the effectiveness of active and associative reconstruction for long-horizon memory reasoning.