Stufen der AGI: Operationalisierung des Fortschritts auf dem Weg zur AGI

Levels of AGI: Operationalizing Progress on the Path to AGI

November 4, 2023

Autoren: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg

cs.AI

Zusammenfassung

Wir schlagen ein Rahmenwerk zur Klassifizierung der Fähigkeiten und des Verhaltens von Modellen der Künstlichen Allgemeinen Intelligenz (AGI) und ihrer Vorläufer vor. Dieses Rahmenwerk führt Ebenen der AGI-Leistung, Allgemeinheit und Autonomie ein. Wir hoffen, dass dieses Rahmenwerk in ähnlicher Weise wie die Stufen des autonomen Fahrens nützlich sein wird, indem es eine gemeinsame Sprache bietet, um Modelle zu vergleichen, Risiken zu bewerten und den Fortschritt auf dem Weg zur AGI zu messen. Um unser Rahmenwerk zu entwickeln, analysieren wir bestehende Definitionen von AGI und destillieren sechs Prinzipien, die eine nützliche Ontologie für AGI erfüllen sollte. Diese Prinzipien umfassen die Konzentration auf Fähigkeiten statt auf Mechanismen; die separate Bewertung von Allgemeinheit und Leistung; sowie die Definition von Stufen auf dem Weg zur AGI, anstatt sich auf den Endpunkt zu konzentrieren. Mit diesen Prinzipien im Hinterkopf schlagen wir „Stufen der AGI“ basierend auf der Tiefe (Leistung) und Breite (Allgemeinheit) der Fähigkeiten vor und reflektieren, wie aktuelle Systeme in diese Ontologie passen. Wir diskutieren die anspruchsvollen Anforderungen für zukünftige Benchmarks, die das Verhalten und die Fähigkeiten von AGI-Modellen in Bezug auf diese Stufen quantifizieren. Schließlich erörtern wir, wie diese AGI-Stufen mit Überlegungen zur Bereitstellung wie Autonomie und Risiko interagieren, und betonen die Bedeutung einer sorgfältigen Auswahl von Mensch-KI-Interaktionsparadigmen für die verantwortungsvolle und sichere Bereitstellung hochleistungsfähiger KI-Systeme.

English

We propose a framework for classifying the capabilities and behavior of Artificial General Intelligence (AGI) models and their precursors. This framework introduces levels of AGI performance, generality, and autonomy. It is our hope that this framework will be useful in an analogous way to the levels of autonomous driving, by providing a common language to compare models, assess risks, and measure progress along the path to AGI. To develop our framework, we analyze existing definitions of AGI, and distill six principles that a useful ontology for AGI should satisfy. These principles include focusing on capabilities rather than mechanisms; separately evaluating generality and performance; and defining stages along the path toward AGI, rather than focusing on the endpoint. With these principles in mind, we propose 'Levels of AGI' based on depth (performance) and breadth (generality) of capabilities, and reflect on how current systems fit into this ontology. We discuss the challenging requirements for future benchmarks that quantify the behavior and capabilities of AGI models against these levels. Finally, we discuss how these levels of AGI interact with deployment considerations such as autonomy and risk, and emphasize the importance of carefully selecting Human-AI Interaction paradigms for responsible and safe deployment of highly capable AI systems.