Níveis de AGI: Operacionalizando o Progresso no Caminho para a AGI

Levels of AGI: Operationalizing Progress on the Path to AGI

November 4, 2023

Autores: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg

cs.AI

Resumo

Propomos um framework para classificar as capacidades e o comportamento de modelos de Inteligência Geral Artificial (AGI) e seus precursores. Este framework introduz níveis de desempenho, generalidade e autonomia da AGI. Esperamos que este framework seja útil de forma análoga aos níveis de direção autônoma, fornecendo uma linguagem comum para comparar modelos, avaliar riscos e medir o progresso ao longo do caminho para a AGI. Para desenvolver nosso framework, analisamos definições existentes de AGI e destilamos seis princípios que uma ontologia útil para AGI deve satisfazer. Esses princípios incluem focar nas capacidades em vez dos mecanismos; avaliar separadamente a generalidade e o desempenho; e definir estágios ao longo do caminho para a AGI, em vez de focar no ponto final. Com esses princípios em mente, propomos "Níveis de AGI" com base na profundidade (desempenho) e na amplitude (generalidade) das capacidades, e refletimos sobre como os sistemas atuais se encaixam nessa ontologia. Discutimos os requisitos desafiadores para benchmarks futuros que quantifiquem o comportamento e as capacidades de modelos de AGI em relação a esses níveis. Por fim, discutimos como esses níveis de AGI interagem com considerações de implantação, como autonomia e risco, e enfatizamos a importância de selecionar cuidadosamente paradigmas de Interação Humano-IA para a implantação responsável e segura de sistemas de IA altamente capazes.

English

We propose a framework for classifying the capabilities and behavior of Artificial General Intelligence (AGI) models and their precursors. This framework introduces levels of AGI performance, generality, and autonomy. It is our hope that this framework will be useful in an analogous way to the levels of autonomous driving, by providing a common language to compare models, assess risks, and measure progress along the path to AGI. To develop our framework, we analyze existing definitions of AGI, and distill six principles that a useful ontology for AGI should satisfy. These principles include focusing on capabilities rather than mechanisms; separately evaluating generality and performance; and defining stages along the path toward AGI, rather than focusing on the endpoint. With these principles in mind, we propose 'Levels of AGI' based on depth (performance) and breadth (generality) of capabilities, and reflect on how current systems fit into this ontology. We discuss the challenging requirements for future benchmarks that quantify the behavior and capabilities of AGI models against these levels. Finally, we discuss how these levels of AGI interact with deployment considerations such as autonomy and risk, and emphasize the importance of carefully selecting Human-AI Interaction paradigms for responsible and safe deployment of highly capable AI systems.