メンデル・ゲーデルマシン：比較進化による再帰的自己改善コーディングエージェント

要旨

自身のソースコードを反復的に書き換える自己改善型コーディングエージェントは、コーディングタスクにおいて顕著な性能を示してきた。しかしながら、既存の手法は一般に、一度に一つの失敗軌跡から自己修正を導出しており、エージェントの拡大しつつある過去の試行のアーカイブにおいて利用可能な豊富な比較シグナルを見落としている。制御された遺伝のメンデル原理に従い、我々はメンデル・ゲーデルマシン（MGM）を導入する。MGMは、一般的な単一軌跡クローン変異に加えて、蓄積された証拠をより良く利用する2つの新しい自己修正を含む。すなわち、反応規範変異は複数のタスクにおける軌跡に同時に基づいてエージェントを編集し、系統間交雑は同じタスクに関する別の系統の参照エージェントの軌跡を用いてエージェントを編集する。加法的適応度地形モデルの下で、我々は新しい戦略が単一軌跡のベースラインと比較して、より高速でより良い収束を促進することを理論的に証明し、制御された代理シミュレーションによって実証する。SWE-benchとPolyglotに関する実験は、性能、効率、一般化可能性におけるMGMの一貫した改善を確認する。

English

Self-improving coding agents that iteratively rewrite their own source code have demonstrated impressive performance on coding tasks. However, existing solutions generally derive self-modification from a single failure trajectory at a time, overlooking rich comparative signals available in the agent's expanding archive of past attempts. According to Mendelian principles of controlled inheritance, we introduce Mendel Gödel Machine (MGM). In addition to the general single-trajectory clonal mutation, MGM includes two new types of self-modification that better utilizes evidences accumulated: the reaction-norm mutation edits an agent based on its trajectories on multiple tasks simultaneously, and the cross-lineage hybridization edits an agent using the trajectory of a reference agent from another lineage on the same task. Under an additive fitness landscape model, we prove theoretically and demonstrate via controlled surrogate simulation that the new strategies facilitate a faster and better convergence over single-trajectory baselines. Experiments on SWE-bench and Polyglot confirm MGM's consistent improvement in performance, efficiency, and generalizability.