Internationale Institutionen für fortgeschrittene KI

International Institutions for Advanced AI

July 10, 2023

Autoren: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Zusammenfassung

Internationale Institutionen könnten eine wichtige Rolle dabei spielen, sicherzustellen, dass fortschrittliche KI-Systeme der Menschheit zugutekommen. Internationale Zusammenarbeit kann das Potenzial der KI freisetzen, nachhaltige Entwicklung voranzutreiben, und die Koordination regulatorischer Bemühungen kann Hindernisse für Innovation und die Verbreitung von Vorteilen verringern. Umgekehrt schaffen die potenziell gefährlichen Fähigkeiten leistungsstarker und universeller KI-Systeme globale Externalitäten in ihrer Entwicklung und Anwendung, und internationale Bemühungen zur Förderung verantwortungsvoller KI-Praktiken könnten dazu beitragen, die von ihnen ausgehenden Risiken zu bewältigen. Dieses Papier identifiziert eine Reihe von Governance-Funktionen, die auf internationaler Ebene zur Bewältigung dieser Herausforderungen wahrgenommen werden könnten, von der Unterstützung des Zugangs zu fortschrittlichen KI-Systemen bis hin zur Festlegung internationaler Sicherheitsstandards. Es gruppiert diese Funktionen in vier institutionelle Modelle, die interne Synergien aufweisen und Vorbilder in bestehenden Organisationen haben: 1) eine Kommission für fortschrittliche KI, die den Expertenkonsens über Chancen und Risiken fortschrittlicher KI fördert, 2) eine Organisation für die Governance fortschrittlicher KI, die internationale Standards zur Bewältigung globaler Bedrohungen durch fortschrittliche Modelle festlegt, deren Umsetzung unterstützt und möglicherweise die Einhaltung eines zukünftigen Governance-Regimes überwacht, 3) eine Kooperation für fortschrittliche KI, die den Zugang zu Spitzen-KI fördert, und 4) ein KI-Sicherheitsprojekt, das führende Forscher und Ingenieure zusammenbringt, um die KI-Sicherheitsforschung voranzutreiben. Wir untersuchen den Nutzen dieser Modelle und identifizieren offene Fragen zu ihrer Umsetzbarkeit.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.