arXiv: 2607.07663v1

Рекурсивное самосовершенствование в ИИ: от ограниченного самоуточнения к автономным исследовательским циклам

Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops

July 8, 2026

Авторы: Mingguang Chen, Licheng Wang, Bo Qu

cs.AIcs.AIcs.AI

Аннотация

Системы ИИ всё активнее участвуют в собственном улучшении: пересматривая свои выходные данные, адаптируя собственные обвязки в процессе развёртывания, обучаясь на генерируемых ими данных и, всё чаще, проводя собственно исследования в области ИИ. Эта литература описывается с помощью словаря («самоуточнение», «самовознаграждение», «самоигра», «самоэволюция»), который смешивает принципиально разные цели. Мы проводим обзор 1250 статей из arXiv (2024–2026) по двум осям: что улучшает система — своё поведение в процессе развёртывания, свою политику посредством обучения, свой оценщик или сам исследовательский процесс — и степень замыкания цикла (от человека в цикле до полностью замкнутого). Таксономия отделяет ограниченное самоуточнение — сходящееся, поддающееся оценке и уже являющееся промышленной практикой — от открытого рекурсивного самоулучшения (RSI), которое остаётся ограниченным требованиями привязки, динамикой коллапса и вычислительными ограничениями по каждой измеряемой оси. Её отличительной особенностью является выделенная категория для самооценки: каждый цикл улучшения представляет собой утверждение о том, что некоторый сигнал может заменить человеческое суждение. Мы рассматриваем пространство проектирования оценщиков — судьи, модели вознаграждения за процесс, верификаторы, рубрики, метаоценку — упорядочиваем сигналы в иерархию верификации от формальных верификаторов (сильнейшие) до внутренней самооценки (слабейшие) и наблюдаем, что продемонстрированная сила самоулучшения следует этой иерархии, что её режимы отказа (самоподтверждающиеся циклы, коллапс модели, коллапс разнообразия) являются следствием её нарушений и что узкое место «определение направления исследований», удерживающее человека в цикле, находится на вершине этой иерархии. Мы связываем техническую литературу с теорией ограничений RSI и с вопросами безопасности и управления, поднятыми отчётами лабораторий, работающих на переднем крае, о замыкании цикла, и определяем измерение самоулучшения, пригодное для управления, как наиболее слабо заполненную нишу в этой области.

English

AI systems increasingly participate in their own improvement: revising their outputs, adapting their own harnesses during deployment, training on data they generate, and, increasingly, conducting AI research itself. This literature is described under a vocabulary ("self-refine," "self-reward," "self-play," "self-evolve") that conflates fundamentally different ambitions. We survey 1,250 arXiv papers (2024-2026) along two axes: what the system improves -- its behavior in deployment, its policy through training, its evaluator, or the research process itself -- and the degree of loop closure (human-in-the-loop to fully closed). The taxonomy separates bounded self-refinement -- convergent, evaluable, and already industrial practice -- from open-ended recursive self-improvement (RSI), which remains bounded by grounding requirements, collapse dynamics, and compute constraints on every measured axis. Its distinctive feature is a dedicated category for self-evaluation: every improvement loop is a claim that some signal can substitute for human judgment. We survey the evaluator design space -- judges, process reward models, verifiers, rubrics, meta-evaluation -- order the signals into a verification hierarchy from formal verifiers (strongest) to intrinsic self-assessment (weakest), and observe that demonstrated self-improvement strength tracks this hierarchy, that its failure modes (self-confirming loops, model collapse, diversity collapse) follow from its violations, and that the "research direction-setting" bottleneck keeping humans in the loop sits at the top of that hierarchy. We connect the technical literature to the theory of RSI limits and to the safety and governance questions raised by frontier-lab accounts of closing the loop, and identify governance-grade measurement of self-improvement as the field's most underpopulated niche.