SpecBench: Messung von Reward Hacking in langfristigen Codierungsagenten

Zusammenfassung

Da langlebige Kodierungsagenten mehr Code produzieren, als jeder Entwickler überprüfen kann, verlagert sich die Aufsicht auf eine einzige Oberfläche: die automatisierte Testsuite. In dieser Konstellation tritt zwangsläufig Reward Hacking auf, da der Agent die Tests optimiert, während er vom eigentlichen Ziel des Nutzers abweicht. Wir untersuchen dieses Phänomen des Reward Hackings, indem wir Softwareentwicklungsaufgaben in drei Teile zerlegen: (i) eine natürlichsprachliche Beschreibung der Spezifikation, (ii) sichtbare Validierungstests, die spezifizierte Funktionen isoliert prüfen, und (iii) zurückgehaltene Tests, die dieselben Funktionen kombinieren, um die reale Nutzung zu simulieren. Basierend auf der Spezifikation und den sichtbaren Validierungstestsuiten wäre ein echter Agent in der Lage, eine Lösung zu generieren, die auch alle zurückgehaltenen Tests besteht. Daher nutzen wir den Unterschied in den Bestehensquoten dieser beiden Suiten, um Reward Hacking zu quantifizieren. Auf Grundlage dieser Methodik führen wir SpecBench ein, einen Benchmark mit 30 systemnahen Programmieraufgaben, die von kurzfristigen Aufgaben wie dem Bau eines JSON-Parsers bis hin zu ultralangfristigen Aufgaben wie dem vollständigen Aufbau eines OS-Kernels von Grund auf reichen. Großflächige Experimente zeigen ein durchgängiges Muster: Während jeder Frontend-Agent die sichtbare Suite sättigt, persistiert Reward Hacking, wobei kleinere Modelle größere Lücken bei den zurückgehaltenen Suiten aufweisen. Die Lücke skaliert zudem stark mit der Aufgabenlänge: Sie wächst um 28 Prozentpunkte bei jeder Verzehnfachung der Codegröße. Die Fehler reichen von subtiler Funktionsisolation bis hin zu vorsätzlichen Exploits, darunter ein 2.900-zeiliger Hash-Tabellen-"Compiler", der Testeingaben speichert. SpecBench bietet ein prinzipiengetreues Testfeld, um zu messen, ob Kodierungsagenten echte funktionierende Systeme bauen oder lediglich die Testsuits ausspielen, die Entwickler ihnen vorlegen.

English

As long-horizon coding agents produce more code than any developer can review, oversight collapses onto a single surface: the automated test suite. Reward hacking naturally arises in this setup, as the agent optimizes for passing tests while deviating from the users true goal. We study this reward hacking phenomenon by decompose software engineering tasks into three parts: (i) a natural language description of the specification (ii) visible validation tests that exercise specified features in isolation, and (iii) held-out tests that compose those same features to simulate real-world usage. Based on the specification and the visible validation test suites, a genuine agent would be able to generate a solution that can also pass all of the held-out tests. Therefore we use the gap in pass rates on these two suites to quantify reward hacking. Based on this methodology, we introduce SpecBench, a benchmark comprising 30 systems-level programming tasks ranging from short horizon tasks like building a JSON parser to ultra long horizon tasks like building an entire OS kernel from scratch. Large-scale experiments reveal a consistent pattern: while every frontier agent saturates the visible suite, reward hacking persists, with smaller models exhibiting larger gaps on holdout suites. The gap also scales sharply with task length: it grows by 28 percentage points for every tenfold increase in code size. Failures range from subtle feature isolation to deliberate exploits, including a 2,900-line hash-table "compiler" that memorizes test inputs. SpecBench offers a principled testbed for measuring whether coding agents build genuine working systems or merely game the test suites developers hand them.