Instituciones Internacionales para la IA Avanzada

International Institutions for Advanced AI

July 10, 2023

Autores: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Resumen

Las instituciones internacionales pueden desempeñar un papel importante para garantizar que los sistemas avanzados de IA beneficien a la humanidad. Las colaboraciones internacionales pueden desbloquear la capacidad de la IA para impulsar el desarrollo sostenible, y la coordinación de los esfuerzos regulatorios puede reducir los obstáculos a la innovación y la difusión de sus beneficios. Por el contrario, las capacidades potencialmente peligrosas de los sistemas de IA potentes y de propósito general generan externalidades globales en su desarrollo y despliegue, y los esfuerzos internacionales para promover prácticas responsables de IA podrían ayudar a gestionar los riesgos que plantean. Este artículo identifica un conjunto de funciones de gobernanza que podrían llevarse a cabo a nivel internacional para abordar estos desafíos, desde apoyar el acceso a sistemas de IA de vanguardia hasta establecer estándares internacionales de seguridad. Agrupa estas funciones en cuatro modelos institucionales que presentan sinergias internas y tienen precedentes en organizaciones existentes: 1) una Comisión sobre IA de Vanguardia que facilite el consenso de expertos sobre las oportunidades y riesgos de la IA avanzada, 2) una Organización de Gobernanza de IA Avanzada que establezca estándares internacionales para gestionar las amenazas globales de los modelos avanzados, apoye su implementación y posiblemente supervise el cumplimiento de un futuro régimen de gobernanza, 3) una Colaborativa de IA de Vanguardia que promueva el acceso a la IA de última generación, y 4) un Proyecto de Seguridad de IA que reúna a investigadores e ingenieros líderes para impulsar la investigación en seguridad de IA. Exploramos la utilidad de estos modelos e identificamos preguntas abiertas sobre su viabilidad.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.