멘델 괴델 머신: 비교 진화를 통한 재귀적 자기 개선 코딩 에이전트

초록

자기 개선형 코딩 에이전트들은 자신의 소스 코드를 반복적으로 재작성하며 코딩 작업에서 인상적인 성능을 입증해 왔다. 그러나 기존 방법들은 일반적으로 한 번에 하나의 실패 궤적에서만 자기 수정을 도출하며, 에이전트가 축적해 온 과거 시도 기록에서 얻을 수 있는 풍부한 비교 신호를 간과한다. 우리는 멘델의 통제된 유전 원리에 따라 멘델 괴델 기계(MGM)를 제안한다. 일반적인 단일 궤적 클론 돌연변이 외에도, MGM은 축적된 증거를 더 잘 활용하는 두 가지 새로운 자기 수정 유형을 포함한다. 반응 규범 돌연변이는 여러 작업에 대한 에이전트의 궤적을 동시에 기반으로 에이전트를 편집하며, 계통 간 교잡은 동일한 작업에서 다른 계통의 참조 에이전트 궤적을 사용하여 에이전트를 편집한다. 우리는 가산적 적합도 풍경 모델 하에서 새로운 전략들이 단일 궤적 기준선들보다 더 빠르고 더 나은 수렴을 촉진함을 이론적으로 증명하고, 통제된 대리 시뮬레이션을 통해 입증한다. SWE-bench와 Polyglot 실험은 MGM이 성능, 효율성, 일반화 가능성에서 일관된 개선을 보인다는 것을 확인한다.

English

Self-improving coding agents that iteratively rewrite their own source code have demonstrated impressive performance on coding tasks. However, existing solutions generally derive self-modification from a single failure trajectory at a time, overlooking rich comparative signals available in the agent's expanding archive of past attempts. According to Mendelian principles of controlled inheritance, we introduce Mendel Gödel Machine (MGM). In addition to the general single-trajectory clonal mutation, MGM includes two new types of self-modification that better utilizes evidences accumulated: the reaction-norm mutation edits an agent based on its trajectories on multiple tasks simultaneously, and the cross-lineage hybridization edits an agent using the trajectory of a reference agent from another lineage on the same task. Under an additive fitness landscape model, we prove theoretically and demonstrate via controlled surrogate simulation that the new strategies facilitate a faster and better convergence over single-trajectory baselines. Experiments on SWE-bench and Polyglot confirm MGM's consistent improvement in performance, efficiency, and generalizability.