Socratic-SWE : Agents de codage auto-évolutifs via des compétences d'agent dérivées de traces

Résumé

Les agents d'ingénierie logicielle pilotés par les LLM sont devenus un banc d'essai central pour évaluer les capacités des modèles de langage en conditions réelles, mais leur entraînement reste limité par la disponibilité de tâches de génie logiciel de haute qualité. Les méthodes existantes de données synthétiques créent généralement des tâches via des procédures fixes de mutation ou d'injection de bogues, rendant les distributions résultantes largement indépendantes des faiblesses propres à l'agent et de sa progression d'entraînement. Nous introduisons Socratic-SWE, un cadre d'auto-évolution en boucle fermée qui réutilise les traces historiques de résolution de l'agent comme source de signal d'apprentissage. Plutôt que de traiter les traces uniquement comme des preuves pour le calcul des récompenses, Socratic-SWE les distille en compétences d'agent structurées qui résument les échecs récurrents et les schémas de réparation efficaces. Ces compétences guident ensuite la génération de tâches de réparation ciblées dans des dépôts réels. Les tâches candidates sont vérifiées par une validation basée sur l'exécution et notées à l'aide d'une récompense d'alignement de gradient du solveur, de sorte que les tâches retenues soient à la fois vérifiables et utiles pour améliorer le solveur. Le solveur mis à jour produit de nouvelles traces, permettant au curriculum de tâches de s'adapter au fil des itérations successives. Sur SWE-bench Verified, SWE-bench Lite, SWE-bench Pro et Terminal-Bench 2.0, Socratic-SWE améliore systématiquement les références d'auto-évolution sous le même budget de calcul, atteignant 50,40 % sur SWE-bench Verified après trois itérations. Ces résultats suggèrent que les traces de résolution peuvent servir de substrat évolutif pour les agents de génie logiciel auto-évolutifs.

English

LLM-driven software engineering agents have become a central testbed for real-world language-model capability, yet their training remains limited by the availability of high-quality SWE tasks. Existing synthetic data methods typically create tasks through fixed mutation or bug-injection procedures, making the resulting distributions largely independent of the agent's own weaknesses and training progress. We introduce Socratic-SWE, a closed-loop self-evolution framework that reuses the agent's historical solving traces as a source of training signal. Rather than treating traces only as evidence for reward computation, Socratic-SWE distills them into structured agent skills that summarize recurring failures and effective repair patterns. These skills then guide the generation of targeted repair tasks in real repositories. Candidate tasks are checked through execution-based validation and scored with a solver-gradient alignment reward, so that the retained tasks are both verifiable and useful for improving the Solver. The updated Solver produces new traces, enabling the task curriculum to adapt over successive rounds. Across SWE-bench Verified, SWE-bench Lite, SWE-bench Pro, and Terminal-Bench 2.0, Socratic-SWE consistently improves over self-evolving baselines under the same compute budget, reaching 50.40% on SWE-bench Verified after three iterations. These results suggest that solving traces can serve as a scalable substrate for self-evolving SWE agents.