EvoUndo: LLM 에이전트 하네스를 위한 회복 가능성 제약 자기 진화

초록

LLM 에이전트는 점점 더 런타임에서 자신의 프롬프트, 도구, 미들웨어, 리소스, 실행 하네스를 수정한다. 이러한 자기 진화는 능력을 향상시킬 수 있지만, 성공적인 변이는 생성된 상태와 다른 상태에서는 안전하게 되돌릴 수 없는 지속적 효과를 남길 수 있다. 본 논문에서는 반사실적 상태들에서 모델이 생성한 자기 수정의 복구 가능성을 표현, 합성, 진단, 독립 검증하기 위한 프레임워크인 EvoUndo를 제안한다. 600개의 미지의 원샷 자기 진화 태스크에서 복구 가능성 검증에 실패한 197개의 능력 향상 변이를 식별했다. 원래 복구 표현 하에서 기존 수리 전략은 이러한 자연 실패 중 0/197만을 복구한다. 결정적 오라클 분석은 원래 복구 언어 L0에서 48/197을 복구하는 반면, 확장된 복구 계산법은 경험적 오라클 복구율을 191/197로 높인다. 이어서 프로토콜 고정 2x2 그라운딩-표현력 개입은 두 가지 병목을 분리한다: 원래 언어로 충분한 경우 정확한 상태 주소 그라운딩은 성공적 복구율을 0/48에서 38/48(79.2%)로 높이며, 복구 언어 확장은 오라클이 정의한 S1 계층에서 142/143(99.3%)의 실패를 복구 가능하게 한다. 주 백본 모델인 gpt-oss-120b에서는 더 풍부한 언어에 정확한 주소 진단을 추가하면 복구율이 133/143(93.0%)로 감소한다. Qwen3.8-27B 복제 실험은 그라운딩과 표현력 효과를 유지하지만 이러한 부정적 상호작용은 유지하지 않으며, 이는 후자가 모델 의존적임을 시사한다. 이러한 결과는 신뢰할 수 있는 에이전트 자기 진화가 반복적 프롬프팅에만 의존하는 것이 아니라 검증, 상태 그라운딩, 증인 의미론, 복구 언어 표현력의 공동 설계를 요구함을 시사한다.

English

LLM agents increasingly modify their own prompts, tools, middleware, resources, and execution harnesses at runtime. Such self-evolution can improve capability, but a successful mutation may leave persistent effects that cannot be safely reversed in states different from the one in which it was created. We introduce EvoUndo, a framework for representing, synthesizing, diagnosing, and independently verifying recoverability of model-generated self-modifications across counterfactual states. Across 600 unseen one-shot self-evolution tasks, we identify 197 capability-improving mutations that fail recoverability verification. Under the original recovery representation, conventional repair strategies recover 0/197 of these natural failures. Deterministic oracle analysis recovers 48/197 under the original recovery language L0, while the extended recovery calculus increases empirical oracle recovery to 191/197. A protocol-locked 2x2 grounding-by-expressivity intervention then separates two bottlenecks: exact state-address grounding increases successful recovery from 0/48 to 38/48 (79.2%) when the original language is sufficient, while extending the recovery language enables recovery on 142/143 (99.3%) failures in the oracle-defined S1 stratum. On the primary gpt-oss-120b backbone, adding exact-address diagnostics to the richer language reduces recovery to 133/143 (93.0%); a Qwen3.8-27B replication preserves the grounding and expressivity effects but not this negative interaction, indicating that the latter is model-dependent. These results indicate that reliable agent self-evolution requires co-designing verification, state grounding, witness semantics, and recovery-language expressivity rather than relying on iterative prompting alone.