Het Laatste Tuig Dat Je Ooit Zult Bouwen
The Last Harness You'll Ever Build
April 22, 2026
Auteurs: Haebin Seong, Li Yin, Haoran Zhang
cs.AI
Samenvatting
AI-agenten worden steeds vaker ingezet voor complexe, domeinspecifieke workflows: ze navigeren door enterprise-webapplicaties die tientallen klikken en formulierinvullingen vereisen, ze orkestreren meerstaps onderzoekspijplijnen die zoeken, extractie en synthese omvatten, ze automatiseren code-review in onbekende repositories, en ze behandelen klantescalaties die genuanceerde domeinkennis vergen. Elk nieuw taakdomein vereist nauwgezette, door experts gedreven 'harness'-engineering: het ontwerpen van de prompts, tools, orkestratielogica en evaluatiecriteria die een foundation model effectief maken. Wij presenteren een tweelagenframework dat dit proces automatiseert. Op het eerste niveau optimaliseert de Harness Evolution Loop de harness H van een worker-agent voor een enkele taak: een Worker Agent W_{H} voert de taak uit, een Evaluator Agent V diagnosticeert adversarieel fouten en scoort de prestaties, en een Evolution Agent E past de harness aan op basis van de volledige historie van eerdere pogingen. Op het tweede niveau optimaliseert de Meta-Evolution Loop het evolutieprotocol Λ = (W_{H}, H^{(0)}, V, E) zelf over diverse taken heen, waarbij een protocol Λ^{(beste)} wordt geleerd dat een snelle harness-convergentie op elke nieuwe taak mogelijk maakt – zodat het aanpassen van een agent aan een nieuw domein helemaal geen menselijke harness-engineering meer vereist. We formaliseren de correspondentie met meta-learning en presenteren beide algoritmen. Het framework verschuift handmatige harness-engineering naar geautomatiseerde harness-engineering, en zet nog een stap verder – door het ontwerp van de automatisering zelf te automatiseren.
English
AI agents are increasingly deployed on complex, domain-specific workflows -- navigating enterprise web applications that require dozens of clicks and form fills, orchestrating multi-step research pipelines that span search, extraction, and synthesis, automating code review across unfamiliar repositories, and handling customer escalations that demand nuanced domain knowledge. Each new task domain requires painstaking, expert-driven harness engineering: designing the prompts, tools, orchestration logic, and evaluation criteria that make a foundation model effective. We present a two-level framework that automates this process. At the first level, the Harness Evolution Loop optimizes a worker agent's harness H for a single task: a Worker Agent W_{H} executes the task, an Evaluator Agent V adversarially diagnoses failures and scores performance, and an Evolution Agent E modifies the harness based on the full history of prior attempts. At the second level, the Meta-Evolution Loop optimizes the evolution protocol Λ= (W_{H}, H^{(0)}, V, E) itself across diverse tasks, learning a protocol Λ^{(text{best)} that enables rapid harness convergence on any new task -- so that adapting an agent to a novel domain requires no human harness engineering at all.} We formalize the correspondence to meta-learning and present both algorithms. The framework shifts manual harness engineering into automated harness engineering, and takes one step further -- automating the design of the automation itself.