Transferência de Aprendizado de Memória: Como as Memórias são Transferidas entre Domínios em Agentes de Codificação

Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents

April 15, 2026

Autores: Kangsan Kim, Minki Kang, Taeil Kim, Yanlai Yang, Mengye Ren, Sung Ju Hwang

cs.AI

Resumo

A auto-evolução baseada em memória emergiu como um paradigma promissor para agentes de programação. No entanto, as abordagens existentes normalmente restringem a utilização da memória a domínios de tarefas homogéneos, falhando em aproveitar as fundações de infraestrutura partilhadas, como ambientes de execução e linguagens de programação, que existem em diversos problemas de programação do mundo real. Para superar esta limitação, investigamos a Aprendizagem por Transferência de Memória (MTL) através do aproveitamento de um conjunto de memória unificado de domínios heterogéneos. Avaliamos o desempenho em 6 benchmarks de programação utilizando quatro representações de memória, desde traços concretos até insights abstratos. As nossas experiências demonstram que a memória transdomínio melhora o desempenho médio em 3,7\%, principalmente através da transferência de meta-conhecimento, como rotinas de validação, em vez de código específico da tarefa. Importantemente, concluímos que a abstração dita a transferibilidade; insights de alto nível generalizam bem, enquanto traços de baixo nível frequentemente induzem transferência negativa devido à excessiva especificidade. Adicionalmente, mostramos que a eficácia da transferência escala com o tamanho do conjunto de memória, e que a memória pode ser transferida mesmo entre modelos diferentes. O nosso trabalho estabelece princípios de design empíricos para expandir a utilização da memória para além dos silos de domínio único. Página do projeto: https://memorytransfer.github.io/

English

Memory-based self-evolution has emerged as a promising paradigm for coding agents. However, existing approaches typically restrict memory utilization to homogeneous task domains, failing to leverage the shared infrastructural foundations, such as runtime environments and programming languages, that exist across diverse real-world coding problems. To address this limitation, we investigate Memory Transfer Learning (MTL) by harnessing a unified memory pool from heterogeneous domains. We evaluate performance across 6 coding benchmarks using four memory representations, ranging from concrete traces to abstract insights. Our experiments demonstrate that cross-domain memory improves average performance by 3.7\%, primarily by transferring meta-knowledge, such as validation routines, rather than task-specific code. Importantly, we find that abstraction dictates transferability; high-level insights generalize well, whereas low-level traces often induce negative transfer due to excessive specificity. Furthermore, we show that transfer effectiveness scales with the size of the memory pool, and memory can be transferred even between different models. Our work establishes empirical design principles for expanding memory utilization beyond single-domain silos. Project page: https://memorytransfer.github.io/