Internationale instellingen voor geavanceerde AI

International Institutions for Advanced AI

July 10, 2023

Auteurs: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Samenvatting

Internationale instellingen kunnen een belangrijke rol spelen bij het waarborgen dat geavanceerde AI-systemen de mensheid ten goede komen. Internationale samenwerkingen kunnen het vermogen van AI om duurzame ontwikkeling te bevorderen ontsluiten, en de coördinatie van regelgevende inspanningen kan belemmeringen voor innovatie en de verspreiding van voordelen verminderen. Omgekeerd creëren de potentieel gevaarlijke capaciteiten van krachtige en algemene AI-systemen mondiale externaliteiten in hun ontwikkeling en implementatie, en kunnen internationale inspanningen om verantwoorde AI-praktijken te bevorderen helpen de risico's die ze met zich meebrengen te beheersen. Dit artikel identificeert een reeks governancefuncties die op internationaal niveau kunnen worden uitgevoerd om deze uitdagingen aan te pakken, variërend van het ondersteunen van toegang tot frontier AI-systemen tot het vaststellen van internationale veiligheidsnormen. Het groepeert deze functies in vier institutionele modellen die interne synergieën vertonen en precedenten hebben in bestaande organisaties: 1) een Commissie voor Frontier AI die deskundige consensus faciliteert over kansen en risico's van geavanceerde AI, 2) een Geavanceerde AI Governance Organisatie die internationale normen vaststelt om mondiale bedreigingen van geavanceerde modellen te beheren, de implementatie ervan ondersteunt, en mogelijk de naleving van een toekomstig governance-regime monitort, 3) een Frontier AI Samenwerkingsverband dat toegang tot geavanceerde AI bevordert, en 4) een AI Veiligheidsproject dat toonaangevende onderzoekers en ingenieurs samenbrengt om AI-veiligheidsonderzoek te bevorderen. We onderzoeken het nut van deze modellen en identificeren open vragen over hun haalbaarheid.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.