Von AGI zu ASI

Zusammenfassung

Im letzten Jahrzehnt hat sich der Aufbau einer menschenähnlichen künstlichen allgemeinen Intelligenz von einer abwegigen Spekulation zu einem konkreten Ziel für das nächste Jahrzehnt vieler der größten KI-Organisationen entwickelt. Die Erreichung dieses Ziels hätte tiefgreifende und weitreichende Auswirkungen auf die menschliche Gesellschaft, was viele komplexe Fragen für das kommende Jahrzehnt aufwirft. Dieser Bericht untersucht, wie sich KI selbst in einer Post-AGI-Welt entlang des Kontinuums maschineller Intelligenz weiterentwickeln könnte. Der Endpunkt dieses Kontinuums, die Universelle KI, ist theoretisch gut verstanden, was eine formale Grundlage für den Hauptfokus dieses Berichts bietet: den Übergang von menschenähnlicher AGI zur künstlichen allgemeinen Superintelligenz (ASI), die intuitiv als ein System verstanden werden kann, das intelligenter und kognitiv leistungsfähiger ist als große Organisationen von Menschen. Nach der Charakterisierung von ASI diskutiert der Bericht vier potenzielle Wege von AGI zu ASI: Skalierung von AGI, KI-Paradigmenwechsel, rekursive Verbesserung und ASI, die aus groß angelegten Multi-Agenten-Kollektiven entsteht. Anschließend werden mögliche Reibungen und Engpässe auf diesen Wegen erörtert. Die Frage, ob die Auswirkungen dieser Reibungen vernachlässigbar oder erheblich sein werden, wirft eine Reihe konkreter offener Forschungsfragen auf. Aufgrund großer Unsicherheiten bei der Vorhersage des ASI-Fortschritts kann nicht ausgeschlossen werden, dass der KI-Fortschritt in den kommenden Jahren weiter an Fahrt gewinnt. Dies könnte bedeuten, dass das Bild eines einzelnen transformativen Schrittes, der durch die Einführung menschenähnlicher AGI in unsere Gesellschaft verursacht wird, ungenau sein könnte. Passender könnte die Aussicht auf eine Reihe transformativer gesellschaftlicher Veränderungen sein, die durch KI-gestützte Fortschritte und Durchbrüche in vielen Bereichen der Wissenschaft und Technologie verursacht werden. Die Vorbereitung auf diese Aussicht erfordert eine massiv interdisziplinäre Anstrengung von globalem Umfang und Interesse.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.