高度なAIのための国際機関

International Institutions for Advanced AI

July 10, 2023

著者: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

要旨

国際機関は、先進的なAIシステムが人類に利益をもたらすことを確保する上で重要な役割を果たす可能性がある。国際的な協力は、AIが持続可能な開発をさらに推進する能力を解き放つことができ、規制努力の調整は、イノベーションと利益の普及に対する障害を減らすことができる。逆に、強力で汎用性の高いAIシステムの潜在的に危険な能力は、その開発と展開においてグローバルな外部性を生み出し、責任あるAIの実践をさらに進めるための国際的な取り組みは、それらがもたらすリスクを管理するのに役立つ可能性がある。本論文は、これらの課題に対処するために国際レベルで実行される可能性のある一連のガバナンス機能を特定し、フロンティアAIシステムへのアクセスを支援することから国際的な安全基準を設定することまでを範囲としている。これらの機能を、内部の相乗効果があり、既存の組織に先例がある4つの制度的モデルに分類している：1）先進的なAIの機会とリスクに関する専門家の合意を促進するフロンティアAI委員会、2）先進的なモデルから生じるグローバルな脅威を管理するための国際基準を設定し、その実施を支援し、将来のガバナンス体制への遵守を監視する可能性のある先進AIガバナンス機関、3）最先端のAIへのアクセスを促進するフロンティアAI協力体、4）AI安全研究をさらに進めるために主要な研究者とエンジニアを集めるAI安全プロジェクト。これらのモデルの有用性を探り、その実現可能性に関する未解決の課題を特定する。

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.