Socratic-SWE: Agentes de Codificación Auto-Evolutivos mediante Habilidades de Agente Derivadas de Trazas

Resumen

Los agentes de ingeniería de software impulsados por LLM se han convertido en un banco de pruebas central para la capacidad de los modelos de lenguaje en el mundo real, pero su entrenamiento sigue estando limitado por la disponibilidad de tareas de alta calidad de SWE. Los métodos existentes de datos sintéticos suelen crear tareas mediante procedimientos fijos de mutación o inyección de errores, lo que hace que las distribuciones resultantes sean en gran medida independientes de las debilidades del agente y del progreso del entrenamiento. Presentamos Socratic-SWE, un marco de autoevolución en bucle cerrado que reutiliza las trazas históricas de resolución del agente como fuente de señal de entrenamiento. En lugar de tratar las trazas solo como evidencia para el cálculo de recompensas, Socratic-SWE las destila en habilidades estructuradas del agente que resumen fallos recurrentes y patrones efectivos de reparación. Estas habilidades guían entonces la generación de tareas de reparación dirigidas en repositorios reales. Las tareas candidatas se verifican mediante validación basada en ejecución y se puntúan con una recompensa de alineación de gradiente del solucionador, de modo que las tareas retenidas sean tanto verificables como útiles para mejorar el Solucionador. El Solucionador actualizado produce nuevas trazas, lo que permite que el currículo de tareas se adapte a lo largo de rondas sucesivas. En SWE-bench Verified, SWE-bench Lite, SWE-bench Pro y Terminal-Bench 2.0, Socratic-SWE mejora consistentemente con respecto a las líneas base de autoevolución bajo el mismo presupuesto computacional, alcanzando un 50,40% en SWE-bench Verified tras tres iteraciones. Estos resultados sugieren que las trazas de resolución pueden servir como un sustrato escalable para agentes SWE autoevolutivos.

English

LLM-driven software engineering agents have become a central testbed for real-world language-model capability, yet their training remains limited by the availability of high-quality SWE tasks. Existing synthetic data methods typically create tasks through fixed mutation or bug-injection procedures, making the resulting distributions largely independent of the agent's own weaknesses and training progress. We introduce Socratic-SWE, a closed-loop self-evolution framework that reuses the agent's historical solving traces as a source of training signal. Rather than treating traces only as evidence for reward computation, Socratic-SWE distills them into structured agent skills that summarize recurring failures and effective repair patterns. These skills then guide the generation of targeted repair tasks in real repositories. Candidate tasks are checked through execution-based validation and scored with a solver-gradient alignment reward, so that the retained tasks are both verifiable and useful for improving the Solver. The updated Solver produces new traces, enabling the task curriculum to adapt over successive rounds. Across SWE-bench Verified, SWE-bench Lite, SWE-bench Pro, and Terminal-Bench 2.0, Socratic-SWE consistently improves over self-evolving baselines under the same compute budget, reaching 50.40% on SWE-bench Verified after three iterations. These results suggest that solving traces can serve as a scalable substrate for self-evolving SWE agents.