Shepherd : Un substrat d'exécution dotant les méta-agents d'une trace d'exécution formalisée

Résumé

Nous présentons Shepherd, un modèle de programmation fonctionnelle qui formalise les opérations de méta-agent sur des agents cibles sous forme de fonctions, dont les opérations fondamentales sont mécanisées en Lean. Shepherd enregistre chaque interaction agent-environnement en tant qu'événement typé dans une trace d'exécution de type Git, permettant à tout état passé d'être dupliqué et rejoué. Le système duplique le processus agent et son système de fichiers 5 fois plus rapidement que Docker, avec un taux de réutilisation du cache de prompt supérieur à 95 % lors du rejeu. Nous démontrons le modèle à travers trois applications. Premièrement, lors d'une intervention en cours d'exécution, un superviseur en direct augmente le taux de réussite en codage en binôme de 28,8 % à 54,7 % sur CooperBench. Deuxièmement, en méta-optimisation contrefactuelle, l'exploration par branchement surpasse les bases de référence sur quatre benchmarks, avec un écart allant jusqu'à 11 points, tout en réduisant le temps réel écoulé jusqu'à 58 %. Troisièmement, lors de l'entraînement Tree-RL, la duplication des déploiements à des tours sélectionnés améliore la performance sur TerminalBench-2 de 34,2 % à 39,4 %. Ces résultats établissent Shepherd comme une infrastructure efficace pour la programmation de méta-agents. Nous publions le système en open source pour soutenir les recherches futures.

English

We introduce Shepherd, a functional programming model that formalizes meta-agent operations on target agents as functions, with core operations mechanized in Lean. Shepherd records every agent-environment interaction as a typed event in a Git-like execution trace, enabling any past state to be forked and replayed. The system forks the agent process and its filesystem 5times faster than Docker, achieving >95% prompt-cache reuse on replay. We demonstrate the model through three applications. First, in runtime intervention, a live supervisor increases pair coding pass rates from 28.8% to 54.7% on CooperBench. Second, in counterfactual meta-optimization, branching exploration outperforms baselines across four benchmarks by up to 11 points while reducing wall-clock time by up to 58%. Third, in Tree-RL training, forking rollouts at selected turns improves TerminalBench-2 performance from 34.2% to 39.4%. These results establish Shepherd as an efficient infrastructure for programming meta-agents. We open-source the system to support future research.