Socratic-SWE: Zelf-evoluerende codeeragenten via trace-afgeleide agentvaardigheden

Samenvatting

LLM-gestuurde software-engineeringagenten zijn een centraal testveld geworden voor realistische taalmodelcapaciteit, maar hun training blijft beperkt door de beschikbaarheid van hoogwaardige SWE-taken. Bestaande methoden voor synthetische data creëren doorgaans taken via vaste mutatie- of buginjectieprocedures, waardoor de resulterende distributies grotendeels onafhankelijk zijn van de eigen zwaktes en trainingsvoortgang van de agent. Wij introduceren Socratic-SWE, een gesloten-lus zelfevolutieraamwerk dat de historische oplossingstraces van de agent hergebruikt als een bron van trainingssignaal. In plaats van traces alleen te behandelen als bewijs voor beloningsberekening, destilleert Socratic-SWE ze tot gestructureerde agentvaardigheden die terugkerende fouten en effectieve reparatiepatronen samenvatten. Deze vaardigheden sturen vervolgens het genereren van gerichte reparatietaken in echte repositories. Kandidaattaken worden gecontroleerd via executiegebaseerde validatie en gescoord met een solver-gradientaligmentbeloning, zodat de behouden taken zowel verifieerbaar als nuttig zijn voor het verbeteren van de Solver. De bijgewerkte Solver produceert nieuwe traces, waardoor het taakcurriculum zich in opeenvolgende rondes kan aanpassen. Op SWE-bench Verified, SWE-bench Lite, SWE-bench Pro en Terminal-Bench 2.0 verbetert Socratic-SWE consequent ten opzichte van zelfevoluerende basislijnen onder hetzelfde rekenbudget, en bereikt het na drie iteraties 50,40% op SWE-bench Verified. Deze resultaten suggereren dat oplossingstraces kunnen dienen als een schaalbaar substraat voor zelfevoluerende SWE-agenten.

English

LLM-driven software engineering agents have become a central testbed for real-world language-model capability, yet their training remains limited by the availability of high-quality SWE tasks. Existing synthetic data methods typically create tasks through fixed mutation or bug-injection procedures, making the resulting distributions largely independent of the agent's own weaknesses and training progress. We introduce Socratic-SWE, a closed-loop self-evolution framework that reuses the agent's historical solving traces as a source of training signal. Rather than treating traces only as evidence for reward computation, Socratic-SWE distills them into structured agent skills that summarize recurring failures and effective repair patterns. These skills then guide the generation of targeted repair tasks in real repositories. Candidate tasks are checked through execution-based validation and scored with a solver-gradient alignment reward, so that the retained tasks are both verifiable and useful for improving the Solver. The updated Solver produces new traces, enabling the task curriculum to adapt over successive rounds. Across SWE-bench Verified, SWE-bench Lite, SWE-bench Pro, and Terminal-Bench 2.0, Socratic-SWE consistently improves over self-evolving baselines under the same compute budget, reaching 50.40% on SWE-bench Verified after three iterations. These results suggest that solving traces can serve as a scalable substrate for self-evolving SWE agents.