HAGE: Aproveitamento da Memória Agêntica via Evolução de Grafos Ponderados Impulsionada por RL

Resumo

A recuperação de memória em sistemas de modelos de linguagem de grande escala (LLMs) agentivos é frequentemente tratada como um problema de busca estática, dependendo de pesquisa vetorial plana ou de grafos relacionais binários fixos. No entanto, estruturas de grafo fixas não conseguem capturar a intensidade variável, a confiança e a relevância dependente da consulta das relações entre eventos. Neste artigo, propomos o HAGE, uma estrutura de memória multi-relacional ponderada que reconceitua a recuperação como uma travessia sequencial condicionada à consulta sobre um grafo de memória relacional unificado. A memória é organizada em visões de grafo específicas de relação sobre nós de memória compartilhados, onde cada aresta está associada a um vetor de características de relação treinável que codifica múltiplos sinais relacionais. Dada uma consulta, um classificador baseado em LLM identifica a intenção relacional, e uma rede de roteamento modula dinamicamente as dimensões correspondentes da incorporação da aresta. As pontuações de travessia são calculadas por meio de uma combinação aprendida de similaridade semântica e dessas representações de aresta condicionadas à consulta. Isso permite que a travessia da memória priorize caminhos relacionais de alta utilidade enquanto suprime suavemente conexões ruidosas ou fracamente relevantes. Além da travessia adaptativa, o HAGE introduz ainda uma estrutura de treinamento baseada em aprendizado por reforço que otimiza conjuntamente o comportamento de roteamento e as representações de aresta usando tarefas a jusante. Por fim, resultados empíricos demonstram precisão aprimorada no raciocínio de longo horizonte e uma troca favorável entre precisão e eficiência em comparação com sistemas de memória agentivos de última geração. Nosso código está disponível em https://github.com/FredJiang0324/HAGE_MVPReview.

English

Memory retrieval in agentic large language model (LLM) systems is often treated as a static lookup problem, relying on flat vector search or fixed binary relational graphs. However, fixed graph structures cannot capture the varying strength, confidence, and query-dependent relevance of relationships between events. In this paper, we propose HAGE, a weighted multi-relational memory framework that reconceptualizes retrieval as sequential, query-conditioned traversal over a unified relational memory graph. Memory is organized as relation-specific graph views over shared memory nodes, where each edge is associated with a trainable relation feature vector encoding multiple relational signals. Given a query, an LLM-based classifier identifies the relational intent, and a routing network dynamically modulates the corresponding dimensions of the edge embedding. Traversal scores are computed via a learned combination of semantic similarity and these query-conditioned edge representations. This allows memory traversal to prioritize high-utility relational paths while softly suppressing noisy or weakly relevant connections. Beyond adaptive traversal, HAGE further introduces a reinforcement learning-based training framework that jointly optimizes routing behavior and edge representations using downstream tasks. Finally, empirical results demonstrate improved long-horizon reasoning accuracy and a favorable accuracy-efficiency trade-off compared to state-of-the-art agentic memory systems. Our code is available at https://github.com/FredJiang0324/HAGE_MVPReview.