고급 인공지능을 위한 국제 기구

International Institutions for Advanced AI

July 10, 2023

저자: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

초록

국제 기구는 첨단 AI 시스템이 인류에 이바지할 수 있도록 보장하는 데 중요한 역할을 할 수 있다. 국제적 협력은 AI가 지속 가능한 발전을 더욱 촉진할 수 있는 능력을 발휘하도록 할 수 있으며, 규제 노력의 조정은 혁신과 혜택 확산에 대한 장애물을 줄일 수 있다. 반대로, 강력하고 범용적인 AI 시스템의 잠재적 위험 능력은 그 개발과 배포 과정에서 글로벌 외부효과를 초래하며, 책임 있는 AI 관행을 촉진하기 위한 국제적 노력은 이러한 위험을 관리하는 데 도움을 줄 수 있다. 본 논문은 이러한 과제를 해결하기 위해 국제 차원에서 수행될 수 있는 일련의 거버넌스 기능을 제시하며, 이는 첨단 AI 시스템에 대한 접근을 지원하는 것부터 국제 안전 표준을 설정하는 것까지 다양하다. 이러한 기능들은 내부적 시너지를 보이며 기존 조직에서 선례를 찾을 수 있는 네 가지 제도적 모델로 그룹화된다: 1) 첨단 AI의 기회와 위험에 대한 전문가 합의를 촉진하는 '첨단 AI 위원회', 2) 첨단 모델로부터 발생하는 글로벌 위협을 관리하기 위한 국제 표준을 설정하고 그 이행을 지원하며, 가능한 경우 미래 거버넌스 체제에 대한 준수 여부를 모니터링하는 '첨단 AI 거버넌스 기구', 3) 최첨단 AI에 대한 접근을 촉진하는 '첨단 AI 협력체', 4) AI 안전 연구를 더욱 발전시키기 위해 주요 연구자와 엔지니어를 한데 모으는 'AI 안전 프로젝트'. 우리는 이러한 모델의 유용성을 탐구하고 그 실행 가능성에 대한 열린 질문들을 식별한다.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.