AGIからASIへ

要旨

過去10年の間に、人間レベルの汎用人工知能（AGI）の構築は、非現実的な憶測から、多くの大規模AI組織にとって具体的な今後10年の目標へと変貌を遂げた。この目標の達成は人類社会に深遠かつ広範な影響を及ぼすことになり、今後10年にわたって多くの複雑な問題を提起する。本報告書では、機械知能の連続体に沿って、AGI後の世界においてAI自体がどのように発展し続ける可能性があるのかを調査する。この連続体の終点である普遍的人工知能（Universal AI）は理論的に十分に理解されており、本報告書の主たる焦点、すなわち人間レベルのAGIから人工超知能（ASI）への移行に形式的な基礎を提供する。ASIは直感的には、大規模な人間組織よりも知的で認知能力に優れたシステムとして理解できる。本報告書では、ASIの特徴を明確にした後、AGIからASIに至る4つの潜在的な経路、すなわちAGIのスケーリング、AIパラダイムシフト、再帰的改善、そして大規模マルチエージェント集団からのASIの創発について議論する。続いて、これらの経路に沿った潜在的な摩擦と隘路について考察する。これらの摩擦の影響が無視できるものか、それとも重大なものかを判断するには、具体的ないくつかの未解決の研究課題が存在する。ASIの進歩予測における大きな不確実性のため、今後数年間にAIの進歩が加速し続ける可能性を排除することはできない。これは、人間レベルのAGIが社会に導入されることによって生じる単一の変革的段階的変化というイメージが不正確である可能性を示唆する。より適切な見方としては、科学技術の多くの分野におけるAI主導の進歩とブレークスルーによって引き起こされる、一連の変革的社会変化の見通しが考えられる。この見通しに備えるには、地球規模の関心と範囲を持つ大規模な学際的取り組みが必要となる。

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.