Shepherd: een runtime-substraat dat meta-agenten voorziet van een geformaliseerde uitvoeringstrace

Samenvatting

Wij introduceren Shepherd, een functioneel programmeermodel dat meta-agentoperaties op doelagenten formaliseert als functies, met kernoperaties gemechaniseerd in Lean. Shepherd registreert elke interactie tussen agent en omgeving als een getypeerde gebeurtenis in een Git-achtige uitvoeringstrace, waardoor elke eerdere toestand kan worden geforked en herspeeld. Het systeem forket het agentproces en het bestandssysteem 5 keer sneller dan Docker, met een hergebruik van de prompt-cache van >95% bij herspeling. We demonstreren het model aan de hand van drie toepassingen. Ten eerste, bij runtime-interventie verhoogt een live supervisor het slagingspercentage van paarprogrammeren van 28,8% naar 54,7% op CooperBench. Ten tweede, bij contrafeitelijke meta-optimalisatie overtreft vertakkend verkennen de baselines op vier benchmarks met tot 11 punten, terwijl de wandkloktijd met tot 58% wordt verminderd. Ten derde, bij Tree-RL training verbetert het forken van rollouts op geselecteerde beurten de TerminalBench-2-prestaties van 34,2% naar 39,4%. Deze resultaten vestigen Shepherd als een efficiënte infrastructuur voor het programmeren van meta-agenten. Wij stellen het systeem beschikbaar als open source om toekomstig onderzoek te ondersteunen.

English

We introduce Shepherd, a functional programming model that formalizes meta-agent operations on target agents as functions, with core operations mechanized in Lean. Shepherd records every agent-environment interaction as a typed event in a Git-like execution trace, enabling any past state to be forked and replayed. The system forks the agent process and its filesystem 5times faster than Docker, achieving >95% prompt-cache reuse on replay. We demonstrate the model through three applications. First, in runtime intervention, a live supervisor increases pair coding pass rates from 28.8% to 54.7% on CooperBench. Second, in counterfactual meta-optimization, branching exploration outperforms baselines across four benchmarks by up to 11 points while reducing wall-clock time by up to 58%. Third, in Tree-RL training, forking rollouts at selected turns improves TerminalBench-2 performance from 34.2% to 39.4%. These results establish Shepherd as an efficient infrastructure for programming meta-agents. We open-source the system to support future research.