AI自己改善の再帰的臨界性

要旨

AIは、将来のAIシステムを生み出す研究開発プロセスにおいてますます利用されている。我々は、このフィードバックが自己増幅的になる条件を研究する。我々のモデルは、AI能力の成長率が、基準となる研究生産性、再帰的フィードバック、そして研究の進展に伴って増大する難易度にどのように依存するかを記述する。我々は、開発サイクルをまたいで改善が増幅されるか減衰するかを決定する再帰的再生産数R_{AI}を導出する。この量は、フィードバックの強さを、さらなる進展がより困難になる割合と比較する。R_{AI}>1の場合、改善の効果は開発サイクルをまたいで累積し、システムを自己増幅状態に置く。R_{AI}<1の場合、その効果はサイクルをまたいで弱まる。この遷移は、AIの研究開発フィードバックループの構造に依存し、モデル能力の特定の水準で生じる必要はない。したがって、システムは加速が目に見えるようになる前に自己増幅状態に入り得る一方、急速な進歩は自己増幅なしでも起こり得る。基準となる研究生産性の向上は、システムが自己増幅的であるかどうかを変えることなく進歩を加速させ得るが、開発サイクルの期間は増幅にとって制約となる時間スケールになる。研究の困難さの増大は、自己増幅の期間を終わらせ得る。モデルを複数の研究主体に拡張すると、個々の主体が単独では自己増幅的でない場合でも、組織間で共有された改善が研究エコシステム全体を自己増幅的にし得ることが示される。この枠組みは、再帰的フィードバックの強さ、改善が後継システムへどれほど効果的に伝播するか、サイクル期間、さらなる進展の困難さの増大など、再帰的増幅を他の要因による急速な進歩から区別するのに役立つ、AI研究開発システムの測定可能な特性を特定する。

English

AI is increasingly used in the R\&D process that produces future AI systems. We study the conditions under which this feedback becomes self-amplifying. Our model describes how the rate of AI capability growth depends on baseline research productivity, recursive feedback, and the increasing difficulty of research progress. We derive a recursive reproduction number, R_{AI}, that determines whether improvements are amplified or damped across development cycles. This quantity compares the strength of feedback with the rate at which further progress becomes more difficult. When R_{AI}>1, the effects of improvements compound across development cycles, placing the system in a self-amplifying regime. When R_{AI}<1, their effects weaken across cycles. The transition depends on the structure of the AI R\&D feedback loop and need not occur at any particular level of model capability. A system can therefore enter a self-amplifying regime before acceleration becomes visible, while rapid progress can also occur without self-amplification. Higher baseline research productivity can accelerate progress without changing whether the system is self-amplifying, but the duration of the development cycle becomes a limiting timescale for amplification. Increasing research difficulty can end a period of self-amplification. Extending the model to multiple research actors shows that improvements shared across organizations can make the overall research ecosystem self-amplifying even when no individual actor is. The framework identifies measurable properties of AI R\&D systems that can help distinguish recursive amplification from rapid progress driven by other sources, including the strength of recursive feedback, how effectively improvements propagate into successor systems, cycle duration, and the increasing difficulty of further progress.