Вычислительные мощности и управление искусственным интеллектом

Computing Power and the Governance of Artificial Intelligence

February 13, 2024

Авторы: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle

cs.AI

Аннотация

Вычислительные мощности, или "компьютинг", играют ключевую роль в разработке и внедрении возможностей искусственного интеллекта (ИИ). В связи с этим правительства и компании начали использовать компьютинг как инструмент управления ИИ. Например, государства инвестируют в развитие внутренних вычислительных мощностей, контролируют их поток в конкурирующие страны и субсидируют доступ к компьютингу для определённых секторов. Однако эти усилия лишь поверхностно затрагивают потенциал использования компьютинга для управления разработкой и внедрением ИИ. По сравнению с другими ключевыми ресурсами для ИИ (данными и алгоритмами), компьютинг, связанный с ИИ, представляет собой особенно эффективную точку вмешательства: он поддаётся обнаружению, исключению и количественной оценке, а его производство сосредоточено в крайне концентрированной цепочке поставок. Эти характеристики, наряду с исключительной важностью компьютинга для передовых моделей ИИ, позволяют предположить, что управление компьютингом может способствовать достижению общих политических целей, таких как обеспечение безопасности и полезного использования ИИ. Более конкретно, политики могут использовать компьютинг для повышения прозрачности регулирования ИИ, распределения ресурсов для стимулирования полезных результатов и введения ограничений на безответственную или злонамеренную разработку и использование ИИ. Однако, хотя политики и технологии, основанные на компьютинге, имеют потенциал для помощи в этих областях, их готовность к реализации значительно варьируется. Некоторые идеи уже тестируются, в то время как другие сдерживаются необходимостью фундаментальных исследований. Более того, наивные или плохо продуманные подходы к управлению компьютингом несут значительные риски в таких областях, как конфиденциальность, экономические последствия и централизация власти. В заключение мы предлагаем меры предосторожности для минимизации этих рисков при управлении компьютингом.

English

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.