De l'AGI à l'ASI

Résumé

Au cours de la dernière décennie, la construction d'une intelligence artificielle générale de niveau humain est passée d'une spéculation lointaine à un objectif concret pour la prochaine décennie pour nombre des plus grandes organisations d'IA. Atteindre cet objectif aurait des impacts profonds et considérables sur la société humaine, ce qui soulève de nombreuses questions complexes pour la décennie à venir. Ce rapport examine comment l'IA elle-même pourrait continuer à se développer dans un monde post-AGI, le long du continuum de l'intelligence machine. Le point final de ce continuum, l'IA universelle, est théoriquement bien compris, ce qui fournit une base formelle pour l'objectif principal de ce rapport : la transition de l'AGI de niveau humain à la superintelligence artificielle générale, qui, intuitivement, peut être comprise comme un système plus intelligent et cognitivement capable que de grandes organisations humaines. Après avoir caractérisé l'ASI, le rapport discute de quatre voies potentielles de l'AGI à l'ASI : le passage à l'échelle de l'AGI, les changements de paradigme en IA, l'amélioration récursive, et l'émergence de l'ASI à partir de collectifs multi-agents à grande échelle. Le rapport examine ensuite les frictions et goulets d'étranglement possibles le long de ces voies. Déterminer si l'impact de ces frictions sera négligeable ou substantiel soulève un certain nombre de questions de recherche ouvertes concrètes. En raison des grandes incertitudes liées à la prévision des progrès de l'ASI, on ne peut exclure que les progrès de l'IA continuent de s'accélérer au cours des prochaines années. Cela pourrait impliquer que l'image d'un changement unique et transformateur, provoqué par l'introduction d'une AGI de niveau humain dans notre société, pourrait être inexacte. Plus appropriée pourrait être la perspective d'une série de changements sociétaux transformateurs causés par les progrès et les percées permis par l'IA dans de nombreux domaines de la science et de la technologie. Se préparer à cette perspective nécessite une entreprise massivement interdisciplinaire d'envergure et d'intérêt mondiaux.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.