AutoTrainess: Taalmodellen Leren om Taalmodellen Autonoom te Verbeteren

Samenvatting

Het trainen van taalmodellen (TM's) blijft een sterk mensintensief proces, zelfs naarmate geavanceerde taalmodellen steeds beter worden in software-engineering en andere langetermijntaken. Een centrale uitdaging is dat autonome natraining niet alleen een codeerprobleem is: het vereist dat de agent herhaaldelijk iteraties plant, benchmark-afgestemde gegevens construeert, stabiele trainingstaken uitvoert, controlestaten evalueert en de experimentstatus gedurende vele uren interactie behoudt. We presenteren AutoTrainess, een TM-agent die deze operaties blootlegt als een verzameling van agent-computerinterfaces voor planning, gegevensvoorbereiding, training, evaluatie en logging. In plaats van de agent in een rauwe CLI-omgeving met een ondergespecificeerde actieruimte te laten opereren, externaliseert AutoTrainess eerdere menselijke ervaring als expliciete workflows, regels en uitvoeringsbeperkingen die de agent naar effectief en betrouwbaar trainingsgedrag leiden. Op PostTrainBench presteert AutoTrainess consistent beter dan CLI-only-baselines, met een gemiddelde score van 26,94 met GPT-5.4 (Codex) versus 23,21 voor CLI-only. Het generalizeert ook over modellen en harnassen, waarbij DeepSeek-V4-Flash (OpenCode) van 12,13 naar 19,58 wordt verbeterd.

English

Training language models (LMs) remains a highly human-intensive process, even as frontier language model agents become increasingly capable at software engineering and other long-horizon tasks. A central challenge is that autonomous post-training is not just a coding problem: it requires the agent to repeatedly plan iterations, construct benchmark-aligned data, run stable training jobs, evaluate checkpoints, and preserve experiment state across many hours of interaction. We present AutoTrainess, a LM agent that exposes these operations as a repository of agent-computer interfaces for planning, data preparation, training, evaluation, and logging. Rather than leaving the agent to operate in a raw CLI environment with an underspecified action space, AutoTrainess externalizes prior human experience as explicit workflows, rules, and execution constraints that guide the agent toward effective and reliable training behavior. On PostTrainBench, AutoTrainess consistently outperforms CLI-only baselines, achieving 26.94 average score with GPT-5.4 (Codex) versus 23.21 for CLI-only. It also generalizes across models and harnesses, improving DeepSeek-V4-Flash (OpenCode) from 12.13 to 19.58.