Istituzioni Internazionali per l'Intelligenza Artificiale Avanzata

International Institutions for Advanced AI

July 10, 2023

Autori: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Abstract

Le istituzioni internazionali potrebbero svolgere un ruolo importante nel garantire che i sistemi di IA avanzata portino benefici all'umanità. Le collaborazioni internazionali possono sbloccare il potenziale dell'IA per promuovere lo sviluppo sostenibile, e il coordinamento degli sforzi normativi può ridurre gli ostacoli all'innovazione e alla diffusione dei benefici. Al contrario, le potenziali capacità pericolose dei sistemi di IA potenti e a scopo generale creano esternalità globali nel loro sviluppo e implementazione, e gli sforzi internazionali per promuovere pratiche responsabili nell'IA potrebbero aiutare a gestire i rischi che essi comportano. Questo articolo identifica una serie di funzioni di governance che potrebbero essere svolte a livello internazionale per affrontare queste sfide, che vanno dal supporto all'accesso ai sistemi di IA di frontiera alla definizione di standard di sicurezza internazionali. Queste funzioni sono raggruppate in quattro modelli istituzionali che presentano sinergie interne e hanno precedenti in organizzazioni esistenti: 1) una Commissione sull'IA di Frontiera che facilita il consenso degli esperti sulle opportunità e i rischi dell'IA avanzata, 2) un'Organizzazione per la Governance dell'IA Avanzata che stabilisce standard internazionali per gestire le minacce globali dei modelli avanzati, ne supporta l'implementazione e possibilmente monitora la conformità a un futuro regime di governance, 3) una Collaborativa per l'IA di Frontiera che promuove l'accesso all'IA all'avanguardia, e 4) un Progetto per la Sicurezza dell'IA che riunisce i principali ricercatori e ingegneri per promuovere la ricerca sulla sicurezza dell'IA. Esploriamo l'utilità di questi modelli e identifichiamo domande aperte sulla loro fattibilità.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.