AGI 수준: AGI로 가는 길에서의 진전을 실행 가능하게 하기
Levels of AGI: Operationalizing Progress on the Path to AGI
November 4, 2023
저자: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg
cs.AI
초록
우리는 인공 일반 지능(AGI) 모델과 그 전신들의 능력과 행동을 분류하기 위한 프레임워크를 제안한다. 이 프레임워크는 AGI의 성능, 일반성, 자율성의 수준을 소개한다. 우리는 이 프레임워크가 자율 주행의 수준과 유사한 방식으로 유용하게 활용되어, 모델을 비교하고 위험을 평가하며 AGI로 가는 길에서의 진전을 측정하는 공통 언어를 제공할 수 있기를 바란다. 우리의 프레임워크를 개발하기 위해, 우리는 AGI의 기존 정의를 분석하고, 유용한 AGI 온톨로지가 충족해야 할 여섯 가지 원칙을 도출한다. 이러한 원칙에는 메커니즘보다는 능력에 초점을 맞추는 것; 일반성과 성능을 별도로 평가하는 것; 그리고 종착점에 초점을 맞추기보다는 AGI로 가는 길에서의 단계를 정의하는 것이 포함된다. 이러한 원칙을 염두에 두고, 우리는 능력의 깊이(성능)와 폭(일반성)을 기반으로 'AGI의 수준'을 제안하고, 현재 시스템들이 이 온톨로지에 어떻게 적합한지 반영한다. 우리는 이러한 수준에 대해 AGI 모델의 행동과 능력을 정량화하는 미래의 벤치마크에 대한 도전적인 요구 사항을 논의한다. 마지막으로, 우리는 이러한 AGI의 수준이 자율성과 위험과 같은 배포 고려 사항과 어떻게 상호작용하는지 논의하고, 고도로 능력 있는 AI 시스템의 책임 있고 안전한 배포를 위해 인간-AI 상호작용 패러다임을 신중하게 선택하는 것의 중요성을 강조한다.
English
We propose a framework for classifying the capabilities and behavior of
Artificial General Intelligence (AGI) models and their precursors. This
framework introduces levels of AGI performance, generality, and autonomy. It is
our hope that this framework will be useful in an analogous way to the levels
of autonomous driving, by providing a common language to compare models, assess
risks, and measure progress along the path to AGI. To develop our framework, we
analyze existing definitions of AGI, and distill six principles that a useful
ontology for AGI should satisfy. These principles include focusing on
capabilities rather than mechanisms; separately evaluating generality and
performance; and defining stages along the path toward AGI, rather than
focusing on the endpoint. With these principles in mind, we propose 'Levels of
AGI' based on depth (performance) and breadth (generality) of capabilities, and
reflect on how current systems fit into this ontology. We discuss the
challenging requirements for future benchmarks that quantify the behavior and
capabilities of AGI models against these levels. Finally, we discuss how these
levels of AGI interact with deployment considerations such as autonomy and
risk, and emphasize the importance of carefully selecting Human-AI Interaction
paradigms for responsible and safe deployment of highly capable AI systems.