Niveles de AGI: Operacionalizando el Progreso en el Camino hacia la AGI
Levels of AGI: Operationalizing Progress on the Path to AGI
November 4, 2023
Autores: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg
cs.AI
Resumen
Proponemos un marco para clasificar las capacidades y el comportamiento de los modelos de Inteligencia General Artificial (AGI) y sus precursores. Este marco introduce niveles de desempeño, generalidad y autonomía de la AGI. Esperamos que este marco sea útil de manera análoga a los niveles de conducción autónoma, al proporcionar un lenguaje común para comparar modelos, evaluar riesgos y medir el progreso en el camino hacia la AGI. Para desarrollar nuestro marco, analizamos las definiciones existentes de AGI y destilamos seis principios que una ontología útil para la AGI debería satisfacer. Estos principios incluyen centrarse en las capacidades en lugar de los mecanismos; evaluar por separado la generalidad y el desempeño; y definir etapas en el camino hacia la AGI, en lugar de enfocarse en el punto final. Con estos principios en mente, proponemos 'Niveles de AGI' basados en la profundidad (desempeño) y amplitud (generalidad) de las capacidades, y reflexionamos sobre cómo los sistemas actuales se ajustan a esta ontología. Discutimos los desafiantes requisitos para futuros puntos de referencia que cuantifiquen el comportamiento y las capacidades de los modelos de AGI en relación con estos niveles. Finalmente, discutimos cómo estos niveles de AGI interactúan con consideraciones de implementación como la autonomía y el riesgo, y enfatizamos la importancia de seleccionar cuidadosamente los paradigmas de Interacción Humano-IA para una implementación responsable y segura de sistemas de IA altamente capaces.
English
We propose a framework for classifying the capabilities and behavior of
Artificial General Intelligence (AGI) models and their precursors. This
framework introduces levels of AGI performance, generality, and autonomy. It is
our hope that this framework will be useful in an analogous way to the levels
of autonomous driving, by providing a common language to compare models, assess
risks, and measure progress along the path to AGI. To develop our framework, we
analyze existing definitions of AGI, and distill six principles that a useful
ontology for AGI should satisfy. These principles include focusing on
capabilities rather than mechanisms; separately evaluating generality and
performance; and defining stages along the path toward AGI, rather than
focusing on the endpoint. With these principles in mind, we propose 'Levels of
AGI' based on depth (performance) and breadth (generality) of capabilities, and
reflect on how current systems fit into this ontology. We discuss the
challenging requirements for future benchmarks that quantify the behavior and
capabilities of AGI models against these levels. Finally, we discuss how these
levels of AGI interact with deployment considerations such as autonomy and
risk, and emphasize the importance of carefully selecting Human-AI Interaction
paradigms for responsible and safe deployment of highly capable AI systems.