Socratic-SWE: саморазвивающиеся агенты кодирования на основе навыков, полученных из трассировок

Аннотация

Агенты разработки ПО на основе больших языковых моделей (LLM) стали центральным испытательным стендом для оценки возможностей языковых моделей в реальных условиях, однако их обучение по-прежнему ограничено доступностью качественных задач SWE. Существующие методы синтетических данных обычно создают задачи с помощью фиксированных процедур мутации или внесения ошибок, что делает результирующие распределения в значительной степени независимыми от собственных слабых мест агента и хода обучения. Мы представляем Socratic-SWE — замкнутую самоэволюционирующую структуру, которая повторно использует исторические трассы решения агента как источник обучающего сигнала. Вместо того чтобы рассматривать трассы только как доказательства для вычисления вознаграждения, Socratic-SWE извлекает из них структурированные навыки агента, которые обобщают повторяющиеся неудачи и эффективные шаблоны исправлений. Затем эти навыки направляют генерацию целевых задач по исправлению в реальных репозиториях. Кандидатные задачи проверяются с помощью валидации на основе выполнения и оцениваются с помощью вознаграждения за согласование с градиентом решателя, так что отобранные задачи являются как верифицируемыми, так и полезными для улучшения решателя (Solver). Обновленный решатель порождает новые трассы, что позволяет учебной программе задач адаптироваться на последовательных итерациях. На наборах SWE-bench Verified, SWE-bench Lite, SWE-bench Pro и Terminal-Bench 2.0 Socratic-SWE последовательно превосходит самоэволюционирующие базовые линии при том же вычислительном бюджете, достигая 50,40% на SWE-bench Verified после трех итераций. Эти результаты позволяют предположить, что трассы решения могут служить масштабируемой основой для самоэволюционирующих SWE-агентов.

English

LLM-driven software engineering agents have become a central testbed for real-world language-model capability, yet their training remains limited by the availability of high-quality SWE tasks. Existing synthetic data methods typically create tasks through fixed mutation or bug-injection procedures, making the resulting distributions largely independent of the agent's own weaknesses and training progress. We introduce Socratic-SWE, a closed-loop self-evolution framework that reuses the agent's historical solving traces as a source of training signal. Rather than treating traces only as evidence for reward computation, Socratic-SWE distills them into structured agent skills that summarize recurring failures and effective repair patterns. These skills then guide the generation of targeted repair tasks in real repositories. Candidate tasks are checked through execution-based validation and scored with a solver-gradient alignment reward, so that the retained tasks are both verifiable and useful for improving the Solver. The updated Solver produces new traces, enabling the task curriculum to adapt over successive rounds. Across SWE-bench Verified, SWE-bench Lite, SWE-bench Pro, and Terminal-Bench 2.0, Socratic-SWE consistently improves over self-evolving baselines under the same compute budget, reaching 50.40% on SWE-bench Verified after three iterations. These results suggest that solving traces can serve as a scalable substrate for self-evolving SWE agents.