Van AGI naar ASI

Samenvatting

Gedurende het laatste decennium is het bouwen van kunstmatige algemene intelligentie op menselijk niveau verschoven van vergezochte speculatie naar een concreet doel voor het komende decennium voor veel van de grootste AI-organisaties. Het bereiken van dit doel zou diepgaande en verstrekkende gevolgen hebben voor de menselijke samenleving, wat veel complexe vragen oproept voor het komende decennium. Dit rapport onderzoekt hoe AI zelf zich verder zou kunnen ontwikkelen in een post-AGI-wereld langs het continuüm van machine-intelligentie. Het eindpunt van dit continuüm, Universele AI, is theoretisch goed begrepen, wat een formele basis biedt voor de hoofdfocus van dit rapport: de overgang van AGI op menselijk niveau naar kunstmatige algemene superintelligentie (ASI), die intuïtief kan worden begrepen als een systeem dat intelligenter en cognitief vaardiger is dan grote organisaties van mensen. Na het karakteriseren van ASI bespreekt het rapport vier mogelijke paden van AGI naar ASI: het opschalen van AGI, paradigmaverschuivingen in AI, recursieve verbetering, en ASI die ontstaat uit grootschalige multi-agentcollectieven. Vervolgens bespreekt het rapport mogelijke fricties en knelpunten langs deze paden. Het bepalen of de impact van deze fricties verwaarloosbaar of substantieel zal zijn, roept een aantal concrete open onderzoeksvragen op. Vanwege grote onzekerheden bij het voorspellen van ASI-vooruitgang kan niet worden uitgesloten dat de AI-vooruitgang de komende jaren nog verder zal versnellen. Dit zou kunnen impliceren dat het beeld van een enkele transformatieve stapverandering, veroorzaakt door de introductie van AGI op menselijk niveau in onze samenleving, onjuist zou kunnen zijn. Meer geschikt zou het vooruitzicht kunnen zijn van een reeks transformatieve maatschappelijke veranderingen die worden veroorzaakt door AI-gestuurde vooruitgang en doorbraken op vele gebieden van wetenschap en technologie. Voorbereiding op dit vooruitzicht vereist een enorm interdisciplinaire inspanning van wereldwijde omvang en belang.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.