メモリ転移学習:コーディングエージェントにおけるドメイン間での記憶転送の仕組み
Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents
April 15, 2026
著者: Kangsan Kim, Minki Kang, Taeil Kim, Yanlai Yang, Mengye Ren, Sung Ju Hwang
cs.AI
要旨
メモリベースの自己進化は、コーディングエージェントの有望なパラダイムとして登場している。しかし、既存のアプローチでは、メモリ活用を同種タスク領域に限定することが一般的であり、実行環境やプログラミング言語といった多様な現実世界のコーディング問題に共通する基盤的要素を活かし切れていない。この制約を解決するため、我々は異種領域からなる統一メモリプールを活用したメモリ転移学習(MTL)を検討する。具体的な実行トレースから抽象的な知見まで4種類のメモリ表現を用いて、6つのコーディングベンチマークで性能を評価した。実験結果から、ドメイン横断的なメモリが平均性能を3.7%向上させることが示され、この改善はタスク固有のコードではなく検証ルーチンなどのメタ知識の転移によって主にもたらされることが明らかになった。重要なことに、抽象化レベルが転移可能性を決定づけることが判明した。高水準の知見は汎化性が高い一方、低水準のトレースは過度に具体的であるため負の転移を引き起こしやすい。さらに、転移効果はメモリプールの規模に比例して向上し、異なるモデル間でもメモリ転移が可能であることを実証した。本研究は、メモリ活用を単一領域のサイロから拡張するための実証的な設計原則を確立するものである。プロジェクトページ: https://memorytransfer.github.io/
English
Memory-based self-evolution has emerged as a promising paradigm for coding agents. However, existing approaches typically restrict memory utilization to homogeneous task domains, failing to leverage the shared infrastructural foundations, such as runtime environments and programming languages, that exist across diverse real-world coding problems. To address this limitation, we investigate Memory Transfer Learning (MTL) by harnessing a unified memory pool from heterogeneous domains. We evaluate performance across 6 coding benchmarks using four memory representations, ranging from concrete traces to abstract insights. Our experiments demonstrate that cross-domain memory improves average performance by 3.7\%, primarily by transferring meta-knowledge, such as validation routines, rather than task-specific code. Importantly, we find that abstraction dictates transferability; high-level insights generalize well, whereas low-level traces often induce negative transfer due to excessive specificity. Furthermore, we show that transfer effectiveness scales with the size of the memory pool, and memory can be transferred even between different models. Our work establishes empirical design principles for expanding memory utilization beyond single-domain silos. Project page: https://memorytransfer.github.io/