Livelli di AGI: Operazionalizzare il Progresso sul Percorso verso l'AGI
Levels of AGI: Operationalizing Progress on the Path to AGI
November 4, 2023
Autori: Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg
cs.AI
Abstract
Proponiamo un quadro concettuale per classificare le capacità e il comportamento dei modelli di Intelligenza Artificiale Generale (AGI) e dei loro precursori. Questo quadro introduce livelli di prestazione, generalità e autonomia dell'AGI. Speriamo che questo quadro possa essere utile in modo analogo ai livelli di guida autonoma, fornendo un linguaggio comune per confrontare i modelli, valutare i rischi e misurare i progressi lungo il percorso verso l'AGI. Per sviluppare il nostro quadro, analizziamo le definizioni esistenti di AGI e distilliamo sei principi che un'ontologia utile per l'AGI dovrebbe soddisfare. Questi principi includono il concentrarsi sulle capacità piuttosto che sui meccanismi; valutare separatamente la generalità e le prestazioni; e definire fasi lungo il percorso verso l'AGI, piuttosto che concentrarsi sul punto di arrivo. Con questi principi in mente, proponiamo i "Livelli di AGI" basati sulla profondità (prestazione) e ampiezza (generalità) delle capacità, e riflettiamo su come i sistemi attuali si inseriscono in questa ontologia. Discutiamo i requisiti impegnativi per i futuri benchmark che quantificano il comportamento e le capacità dei modelli di AGI rispetto a questi livelli. Infine, discutiamo come questi livelli di AGI interagiscano con considerazioni di implementazione come l'autonomia e il rischio, e sottolineiamo l'importanza di selezionare con attenzione i paradigmi di Interazione Uomo-AI per un impiego responsabile e sicuro di sistemi di IA altamente capaci.
English
We propose a framework for classifying the capabilities and behavior of
Artificial General Intelligence (AGI) models and their precursors. This
framework introduces levels of AGI performance, generality, and autonomy. It is
our hope that this framework will be useful in an analogous way to the levels
of autonomous driving, by providing a common language to compare models, assess
risks, and measure progress along the path to AGI. To develop our framework, we
analyze existing definitions of AGI, and distill six principles that a useful
ontology for AGI should satisfy. These principles include focusing on
capabilities rather than mechanisms; separately evaluating generality and
performance; and defining stages along the path toward AGI, rather than
focusing on the endpoint. With these principles in mind, we propose 'Levels of
AGI' based on depth (performance) and breadth (generality) of capabilities, and
reflect on how current systems fit into this ontology. We discuss the
challenging requirements for future benchmarks that quantify the behavior and
capabilities of AGI models against these levels. Finally, we discuss how these
levels of AGI interact with deployment considerations such as autonomy and
risk, and emphasize the importance of carefully selecting Human-AI Interaction
paradigms for responsible and safe deployment of highly capable AI systems.