Geheugen Transfer Leren: Hoe Herinneringen Worden Overgedragen Tussen Domeinen in Coderende Agentsystemen
Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents
April 15, 2026
Auteurs: Kangsan Kim, Minki Kang, Taeil Kim, Yanlai Yang, Mengye Ren, Sung Ju Hwang
cs.AI
Samenvatting
Geheugengestuurde zelfontwikkeling is naar voren gekomen als een veelbelovend paradigma voor codeeragents. Bestaande benaderingen beperken het geheugengebruik echter typisch tot homogene taakdomeinen, waarbij geen gebruik wordt gemaakt van gedeelde infrastructurele fundamenten, zoals runtime-omgevingen en programmeertalen, die bestaan bij uiteenlopende codeerproblemen uit de praktijk. Om deze beperking aan te pakken, onderzoeken we Memory Transfer Learning (MTL) door een verenigde geheugenpool uit heterogene domeinen te benutten. We evalueren de prestaties op 6 codeerbenchmarks met vier geheugenrepresentaties, variërend van concrete traces tot abstracte inzichten. Onze experimenten tonen aan dat cross-domein geheugen de gemiddelde prestatie met 3,7% verbetert, voornamelijk door de overdracht van meta-kennis, zoals validatieroutines, in plaats van taakspecifieke code. Belangrijk is dat we vaststellen dat abstractie de overdraagbaarheid bepaalt; hoogwaardige inzichten generaliseren goed, terwijl laagwaardige traces vaak negatieve transfer veroorzaken door overmatige specificiteit. Verder tonen we aan dat de effectiviteit van transfer schaalt met de grootte van de geheugenpool, en dat geheugen zelfs tussen verschillende modellen kan worden overgedragen. Ons werk legt empirische ontwerpprincipes vast voor het uitbreiden van geheugengebruik beyond single-domain silo's. Projectpagina: https://memorytransfer.github.io/
English
Memory-based self-evolution has emerged as a promising paradigm for coding agents. However, existing approaches typically restrict memory utilization to homogeneous task domains, failing to leverage the shared infrastructural foundations, such as runtime environments and programming languages, that exist across diverse real-world coding problems. To address this limitation, we investigate Memory Transfer Learning (MTL) by harnessing a unified memory pool from heterogeneous domains. We evaluate performance across 6 coding benchmarks using four memory representations, ranging from concrete traces to abstract insights. Our experiments demonstrate that cross-domain memory improves average performance by 3.7\%, primarily by transferring meta-knowledge, such as validation routines, rather than task-specific code. Importantly, we find that abstraction dictates transferability; high-level insights generalize well, whereas low-level traces often induce negative transfer due to excessive specificity. Furthermore, we show that transfer effectiveness scales with the size of the memory pool, and memory can be transferred even between different models. Our work establishes empirical design principles for expanding memory utilization beyond single-domain silos. Project page: https://memorytransfer.github.io/