arXiv: 2607.07663v1

Rekursive Selbstverbesserung in der KI: Von beschränkter Selbstverfeinerung zu autonomen Forschungsschleifen

Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops

July 8, 2026

Autoren: Mingguang Chen, Licheng Wang, Bo Qu

cs.AIcs.AIcs.AI

Zusammenfassung

KI-Systeme beteiligen sich zunehmend an ihrer eigenen Verbesserung: Sie überarbeiten ihre Ausgaben, passen ihre eigenen Schnittstellen während des Einsatzes an, trainieren auf selbst generierten Daten und betreiben zunehmend selbst KI-Forschung. Diese Literatur wird unter einem Vokabular („self-refine“, „self-reward“, „self-play“, „self-evolve“) beschrieben, das grundlegend unterschiedliche Ambitionen vermischt. Wir untersuchen 1.250 arXiv-Papiere (2024–2026) entlang zweier Achsen: was das System verbessert – sein Verhalten während des Einsatzes, seine Policy durch Training, seinen Evaluator oder den Forschungsprozess selbst – und den Grad der Schleifenschließung (human-in-the-loop bis vollständig geschlossen). Die Taxonomie trennt begrenzte Selbstverfeinerung – konvergent, evaluierbar und bereits industrielle Praxis – von offener rekursiver Selbstverbesserung (RSI), die auf jeder gemessenen Achse durch Grounding-Anforderungen, Kollapsdynamiken und Rechenbeschränkungen begrenzt bleibt. Ihr charakteristisches Merkmal ist eine eigene Kategorie für die Selbstevaluation: Jede Verbesserungsschleife ist eine Behauptung, dass ein Signal menschliches Urteil ersetzen kann. Wir untersuchen den Gestaltungsraum von Evaluatoren – Richter, Prozess-Belohnungsmodelle, Verifizierer, Rubriken, Meta-Evaluation – ordnen die Signale in eine Verifikationshierarchie von formalen Verifizierern (stärkste) bis zu intrinsischer Selbstbewertung (schwächste) und beobachten, dass die demonstrierte Stärke der Selbstverbesserung dieser Hierarchie folgt, dass ihre Fehlermodi (selbstbestätigende Schleifen, Modellkollaps, Diversitätskollaps) aus ihren Verletzungen folgen und dass der Engpass der „Forschungsrichtungssetzung“, der den Menschen in der Schleife hält, an der Spitze dieser Hierarchie sitzt. Wir verbinden die technische Literatur mit der Theorie der RSI-Grenzen und den Sicherheits- und Governance-Fragen, die durch Berichte von Frontier-Laboren über die Schließung der Schleife aufgeworfen werden, und identifizieren governance-fähige Messung der Selbstverbesserung als die am wenigsten besetzte Nische des Feldes.

English

AI systems increasingly participate in their own improvement: revising their outputs, adapting their own harnesses during deployment, training on data they generate, and, increasingly, conducting AI research itself. This literature is described under a vocabulary ("self-refine," "self-reward," "self-play," "self-evolve") that conflates fundamentally different ambitions. We survey 1,250 arXiv papers (2024-2026) along two axes: what the system improves -- its behavior in deployment, its policy through training, its evaluator, or the research process itself -- and the degree of loop closure (human-in-the-loop to fully closed). The taxonomy separates bounded self-refinement -- convergent, evaluable, and already industrial practice -- from open-ended recursive self-improvement (RSI), which remains bounded by grounding requirements, collapse dynamics, and compute constraints on every measured axis. Its distinctive feature is a dedicated category for self-evaluation: every improvement loop is a claim that some signal can substitute for human judgment. We survey the evaluator design space -- judges, process reward models, verifiers, rubrics, meta-evaluation -- order the signals into a verification hierarchy from formal verifiers (strongest) to intrinsic self-assessment (weakest), and observe that demonstrated self-improvement strength tracks this hierarchy, that its failure modes (self-confirming loops, model collapse, diversity collapse) follow from its violations, and that the "research direction-setting" bottleneck keeping humans in the loop sits at the top of that hierarchy. We connect the technical literature to the theory of RSI limits and to the safety and governance questions raised by frontier-lab accounts of closing the loop, and identify governance-grade measurement of self-improvement as the field's most underpopulated niche.