Niveaux d'AGI : Opérationnalisation des Progrès sur la Voie vers l'AGI
Levels of AGI: Operationalizing Progress on the Path to AGI
November 4, 2023
Auteurs: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg
cs.AI
Résumé
Nous proposons un cadre pour classer les capacités et les comportements des modèles d'Intelligence Artificielle Générale (IAG) et de leurs précurseurs. Ce cadre introduit des niveaux de performance, de généralité et d'autonomie de l'IAG. Nous espérons que ce cadre sera utile de manière analogue aux niveaux de conduite autonome, en fournissant un langage commun pour comparer les modèles, évaluer les risques et mesurer les progrès sur la voie de l'IAG. Pour développer notre cadre, nous analysons les définitions existantes de l'IAG et en dégageons six principes qu'une ontologie utile pour l'IAG devrait satisfaire. Ces principes incluent la focalisation sur les capacités plutôt que sur les mécanismes ; l'évaluation séparée de la généralité et de la performance ; et la définition d'étapes sur la voie de l'IAG, plutôt que de se concentrer sur le point final. Avec ces principes à l'esprit, nous proposons des "Niveaux d'IAG" basés sur la profondeur (performance) et l'étendue (généralité) des capacités, et réfléchissons à la manière dont les systèmes actuels s'intègrent dans cette ontologie. Nous discutons des exigences difficiles pour les futurs benchmarks qui quantifient le comportement et les capacités des modèles d'IAG par rapport à ces niveaux. Enfin, nous discutons de la manière dont ces niveaux d'IAG interagissent avec les considérations de déploiement telles que l'autonomie et le risque, et soulignons l'importance de sélectionner soigneusement les paradigmes d'interaction Humain-IA pour un déploiement responsable et sûr des systèmes d'IA hautement performants.
English
We propose a framework for classifying the capabilities and behavior of
Artificial General Intelligence (AGI) models and their precursors. This
framework introduces levels of AGI performance, generality, and autonomy. It is
our hope that this framework will be useful in an analogous way to the levels
of autonomous driving, by providing a common language to compare models, assess
risks, and measure progress along the path to AGI. To develop our framework, we
analyze existing definitions of AGI, and distill six principles that a useful
ontology for AGI should satisfy. These principles include focusing on
capabilities rather than mechanisms; separately evaluating generality and
performance; and defining stages along the path toward AGI, rather than
focusing on the endpoint. With these principles in mind, we propose 'Levels of
AGI' based on depth (performance) and breadth (generality) of capabilities, and
reflect on how current systems fit into this ontology. We discuss the
challenging requirements for future benchmarks that quantify the behavior and
capabilities of AGI models against these levels. Finally, we discuss how these
levels of AGI interact with deployment considerations such as autonomy and
risk, and emphasize the importance of carefully selecting Human-AI Interaction
paradigms for responsible and safe deployment of highly capable AI systems.