Международные институты по разработке передовых систем ИИ

International Institutions for Advanced AI

July 10, 2023

Авторы: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Аннотация

Международные институты могут играть важную роль в обеспечении того, чтобы передовые системы искусственного интеллекта приносили пользу человечеству. Международное сотрудничество способно раскрыть потенциал ИИ для содействия устойчивому развитию, а координация регуляторных усилий может снизить барьеры для инноваций и распространения преимуществ. С другой стороны, потенциально опасные возможности мощных и универсальных систем ИИ создают глобальные внешние эффекты в их разработке и внедрении, и международные усилия по продвижению ответственных практик ИИ могут помочь управлять связанными с ними рисками. В данной статье определяется набор функций управления, которые могут быть реализованы на международном уровне для решения этих вызовов, начиная от поддержки доступа к передовым системам ИИ и заканчивая установлением международных стандартов безопасности. Эти функции группируются в четыре институциональные модели, которые демонстрируют внутреннюю синергию и имеют прецеденты в существующих организациях: 1) Комиссия по передовому ИИ, которая способствует достижению экспертного консенсуса по возможностям и рискам, связанным с передовым ИИ, 2) Организация по управлению передовым ИИ, которая устанавливает международные стандарты для управления глобальными угрозами от передовых моделей, поддерживает их внедрение и, возможно, контролирует соблюдение будущего режима управления, 3) Коллаборация по передовому ИИ, которая способствует доступу к передовым технологиям ИИ, и 4) Проект по безопасности ИИ, который объединяет ведущих исследователей и инженеров для продвижения исследований в области безопасности ИИ. Мы исследуем полезность этих моделей и определяем открытые вопросы, касающиеся их жизнеспособности.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.