Institutions internationales pour l'IA avancée

International Institutions for Advanced AI

July 10, 2023

Auteurs: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Résumé

Les institutions internationales pourraient jouer un rôle important pour garantir que les systèmes d’IA avancés profitent à l’humanité. Les collaborations internationales peuvent libérer le potentiel de l’IA pour favoriser le développement durable, et la coordination des efforts réglementaires peut réduire les obstacles à l’innovation et à la diffusion des bénéfices. À l’inverse, les capacités potentiellement dangereuses des systèmes d’IA puissants et polyvalents créent des externalités mondiales dans leur développement et leur déploiement, et les efforts internationaux pour promouvoir des pratiques responsables en matière d’IA pourraient aider à gérer les risques qu’ils posent. Ce document identifie un ensemble de fonctions de gouvernance qui pourraient être exercées au niveau international pour relever ces défis, allant du soutien à l’accès aux systèmes d’IA de pointe à l’établissement de normes internationales de sécurité. Il regroupe ces fonctions en quatre modèles institutionnels qui présentent des synergies internes et ont des précédents dans des organisations existantes : 1) une Commission sur l’IA de pointe qui facilite un consensus d’experts sur les opportunités et les risques liés à l’IA avancée, 2) une Organisation de gouvernance de l’IA avancée qui établit des normes internationales pour gérer les menaces mondiales posées par les modèles avancés, soutient leur mise en œuvre et pourrait surveiller la conformité à un futur régime de gouvernance, 3) un Collectif pour l’IA de pointe qui promeut l’accès à l’IA de pointe, et 4) un Projet de sécurité de l’IA qui rassemble les chercheurs et ingénieurs de premier plan pour faire progresser la recherche sur la sécurité de l’IA. Nous explorons l’utilité de ces modèles et identifions des questions ouvertes concernant leur viabilité.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.