Niveaus van AGI: Operationalisering van voortgang op het pad naar AGI
Levels of AGI: Operationalizing Progress on the Path to AGI
November 4, 2023
Auteurs: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg
cs.AI
Samenvatting
Wij stellen een raamwerk voor voor het classificeren van de capaciteiten en het gedrag van Artificial General Intelligence (AGI)-modellen en hun voorlopers. Dit raamwerk introduceert niveaus van AGI-prestatie, generaliteit en autonomie. Het is onze hoop dat dit raamwerk op een vergelijkbare manier nuttig zal zijn als de niveaus van autonoom rijden, door een gemeenschappelijke taal te bieden om modellen te vergelijken, risico's in te schatten en voortgang op het pad naar AGI te meten. Om ons raamwerk te ontwikkelen, analyseren we bestaande definities van AGI en destilleren we zes principes die een nuttige ontologie voor AGI zou moeten voldoen. Deze principes omvatten het focussen op capaciteiten in plaats van mechanismen; het afzonderlijk evalueren van generaliteit en prestaties; en het definiëren van fasen langs het pad naar AGI, in plaats van te focussen op het eindpunt. Met deze principes in gedachten, stellen we 'Niveaus van AGI' voor op basis van diepte (prestatie) en breedte (generaliteit) van capaciteiten, en reflecteren we op hoe huidige systemen in deze ontologie passen. We bespreken de uitdagende vereisten voor toekomstige benchmarks die het gedrag en de capaciteiten van AGI-modellen kwantificeren tegen deze niveaus. Tot slot bespreken we hoe deze niveaus van AGI interageren met overwegingen voor implementatie, zoals autonomie en risico, en benadrukken we het belang van het zorgvuldig selecteren van Human-AI Interaction-paradigma's voor een verantwoorde en veilige implementatie van zeer capabele AI-systemen.
English
We propose a framework for classifying the capabilities and behavior of
Artificial General Intelligence (AGI) models and their precursors. This
framework introduces levels of AGI performance, generality, and autonomy. It is
our hope that this framework will be useful in an analogous way to the levels
of autonomous driving, by providing a common language to compare models, assess
risks, and measure progress along the path to AGI. To develop our framework, we
analyze existing definitions of AGI, and distill six principles that a useful
ontology for AGI should satisfy. These principles include focusing on
capabilities rather than mechanisms; separately evaluating generality and
performance; and defining stages along the path toward AGI, rather than
focusing on the endpoint. With these principles in mind, we propose 'Levels of
AGI' based on depth (performance) and breadth (generality) of capabilities, and
reflect on how current systems fit into this ontology. We discuss the
challenging requirements for future benchmarks that quantify the behavior and
capabilities of AGI models against these levels. Finally, we discuss how these
levels of AGI interact with deployment considerations such as autonomy and
risk, and emphasize the importance of carefully selecting Human-AI Interaction
paradigms for responsible and safe deployment of highly capable AI systems.