От общего искусственного интеллекта к искусственному суперинтеллекту

Аннотация

За последнее десятилетие создание общего искусственного интеллекта человеческого уровня перешло из разряда далеких от реальности спекуляций в конкретную цель на ближайшее десятилетие для многих крупнейших организаций в области ИИ. Достижение этой цели будет иметь глубокие и далеко идущие последствия для человеческого общества, что порождает множество сложных вопросов на предстоящее десятилетие. Данный доклад исследует, как сам ИИ может продолжать развиваться в мире после появления AGI в рамках континуума машинного интеллекта. Конечная точка этого континуума — универсальный ИИ — теоретически хорошо изучена, что обеспечивает некоторую формальную основу для основного фокуса доклада: перехода от AGI человеческого уровня к искусственному общему сверхинтеллекту, который интуитивно можно понимать как систему, более интеллектуальную и когнитивно способную, чем крупные организации людей. После характеристики ASI в докладе обсуждаются четыре потенциальных пути от AGI к ASI: масштабирование AGI, смена парадигм в ИИ, рекурсивное улучшение и возникновение ASI из крупномасштабных многоагентных коллективов. Затем рассматриваются возможные трения и узкие места на этих путях. Определение того, будет ли влияние этих трений незначительным или существенным, порождает ряд конкретных открытых исследовательских вопросов. Из-за большой неопределенности в прогнозировании прогресса ASI нельзя исключать, что развитие ИИ может продолжить ускоряться в ближайшие годы. Это может означать, что представление об едином трансформационном скачкообразном изменении, вызванном внедрением AGI человеческого уровня в наше общество, может быть неточным. Более уместным может оказаться перспектива серии трансформационных общественных изменений, вызванных прогрессом и прорывами, обеспечиваемыми ИИ во многих областях науки и техники. Подготовка к такой перспективе требует масштабных междисциплинарных усилий глобального охвата и интереса.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.