Das letzte Geschirr, das Sie je bauen werden

The Last Harness You'll Ever Build

April 22, 2026

Autoren: Haebin Seong, Li Yin, Haoran Zhang

cs.AI

Zusammenfassung

KI-Agenten werden zunehmend für komplexe, domänenspezifische Workflows eingesetzt – sie navigieren durch Unternehmens-Webanwendungen, die Dutzende von Klicks und Formularausfüllungen erfordern, orchestrieren mehrstufige Forschungspipelines, die Suche, Extraktion und Synthese umfassen, automatisieren Code-Reviews in unbekannten Repositorys und bearbeiten Kundeneskalationen, die nuanciertes Domänenwissen erfordern. Jede neue Aufgabendomäne erfordert aufwändige, expertengetriebene Harness-Entwicklung: das Design von Prompts, Tools, Orchestrierungslogik und Bewertungskriterien, die ein Foundation-Modell effektiv machen. Wir stellen ein Zwei-Ebenen-Framework vor, das diesen Prozess automatisiert. Auf der ersten Ebene optimiert die Harness-Evolutionsschleife das Harness H eines Worker-Agenten für eine einzelne Aufgabe: Ein Worker-Agent W_{H} führt die Aufgabe aus, ein Evaluator-Agent V diagnostiziert adversarisch Fehler und bewertet die Leistung, und ein Evolutions-Agent E modifiziert das Harness basierend auf der vollständigen Historie vorheriger Versuche. Auf der zweiten Ebene optimiert die Meta-Evolutionsschleife das Evolutionsprotokoll Λ = (W_{H}, H^{(0)}, V, E) selbst über diverse Aufgaben hinweg und lernt ein Protokoll Λ^{(best)}, das eine schnelle Harness-Konvergenz für jede neue Aufgabe ermöglicht – sodass die Anpassung eines Agenten an eine neuartige Domäne keinerlei manuelle Harness-Entwicklung mehr erfordert. Wir formalisieren die Entsprechung zu Meta-Learning und präsentieren beide Algorithmen. Das Framework verlagert manuelle Harness-Entwicklung in automatisierte Harness-Entwicklung und geht noch einen Schritt weiter – indem es das Design der Automatisierung selbst automatisiert.

English

AI agents are increasingly deployed on complex, domain-specific workflows -- navigating enterprise web applications that require dozens of clicks and form fills, orchestrating multi-step research pipelines that span search, extraction, and synthesis, automating code review across unfamiliar repositories, and handling customer escalations that demand nuanced domain knowledge. Each new task domain requires painstaking, expert-driven harness engineering: designing the prompts, tools, orchestration logic, and evaluation criteria that make a foundation model effective. We present a two-level framework that automates this process. At the first level, the Harness Evolution Loop optimizes a worker agent's harness H for a single task: a Worker Agent W_{H} executes the task, an Evaluator Agent V adversarially diagnoses failures and scores performance, and an Evolution Agent E modifies the harness based on the full history of prior attempts. At the second level, the Meta-Evolution Loop optimizes the evolution protocol Λ= (W_{H}, H^{(0)}, V, E) itself across diverse tasks, learning a protocol Λ^{(text{best)} that enables rapid harness convergence on any new task -- so that adapting an agent to a novel domain requires no human harness engineering at all.} We formalize the correspondence to meta-learning and present both algorithms. The framework shifts manual harness engineering into automated harness engineering, and takes one step further -- automating the design of the automation itself.