EvoArena: Rastreamento da Evolução da Memória para Agentes LLM Robustos em Ambientes Dinâmicos

Resumo

Agentes de modelo de linguagem de grande porte (LLM) alcançaram um desempenho robusto em uma ampla gama de benchmarks, mas a maioria das avaliações pressupõe ambientes estáticos. Em contraste, a implantação no mundo real é inerentemente dinâmica, exigindo que os agentes alinhem continuamente seu conhecimento, habilidades e comportamento com ambientes em mudança e condições de tarefa atualizadas. Para preencher essa lacuna, introduzimos o EvoArena, um conjunto de benchmarks que modela mudanças ambientais como sequências de atualizações progressivas nos domínios de terminal, software e social. Propomos ainda o EvoMem, um paradigma de memória baseado em patches que registra a evolução da memória como históricos de atualização estruturados, permitindo que os agentes raciocinem sobre a evolução ambiental por meio de mudanças em sua memória. Experimentos mostram que os agentes atuais têm dificuldade no EvoArena, alcançando uma precisão média de 39,6% nos domínios evolutivos de terminal, software e preferência social. O EvoMem melhora consistentemente o desempenho, produzindo um ganho médio de 1,5% no EvoArena e também melhorando benchmarks padrão como GAIA e LoCoMo em 6,1% e 4,8%. Além de tarefas individuais, o EvoMem ainda melhora a precisão em nível de cadeia em 3,7% no EvoArena, onde o sucesso exige completar uma sequência consecutiva de subtarefas evolutivas relacionadas. A análise mecanicista mostra que o EvoMem melhora a captura de evidências na memória, indicando melhor preservação de estados ambientais evolutivos completos. Nossos resultados destacam a importância de modelar a evolução tanto na avaliação quanto na memória para uma implantação confiável de agentes.

English

Large language model (LLM) agents have achieved strong performance on a wide range of benchmarks, yet most evaluations assume static environments. In contrast, real-world deployment is inherently dynamic, requiring agents to continually align their knowledge, skills, and behavior with changing environments and updated task conditions. To address this gap, we introduce EvoArena, a benchmark suite that models environment changes as sequences of progressive updates across terminal, software, and social domains. We further propose EvoMem, a patch-based memory paradigm that records memory evolution as structured update histories, enabling agents to reason about environmental evolution through changes in their memory. Experiments show that current agents struggle on EvoArena, achieving an average accuracy of 39.6% across evolving terminal, software, and social-preference domains. EvoMem consistently improves performance, yielding an average gain of 1.5% on EvoArena and also improving standard benchmarks such as GAIA and LoCoMo by 6.1% and 4.8%. Beyond individual tasks, EvoMem further improves chain-level accuracy by 3.7% on EvoArena, where success requires completing a consecutive sequence of related evolutionary subtasks. Mechanistic analysis shows that EvoMem improves evidence capture in the memory, indicating better preservation of complete evolving environment states. Our results highlight the importance of modeling evolution in both evaluation and memory for reliable agent deployment.