Puissance de calcul et gouvernance de l'intelligence artificielle

Computing Power and the Governance of Artificial Intelligence

February 13, 2024

Auteurs: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle

cs.AI

Résumé

La puissance de calcul, ou « compute », est cruciale pour le développement et le déploiement des capacités d'intelligence artificielle (IA). Par conséquent, les gouvernements et les entreprises ont commencé à exploiter le compute comme un moyen de réguler l'IA. Par exemple, les gouvernements investissent dans des capacités de calcul nationales, contrôlent les flux de compute vers les pays concurrents et subventionnent l'accès au compute pour certains secteurs. Cependant, ces efforts ne font qu'effleurer la surface des possibilités d'utilisation du compute pour réguler le développement et le déploiement de l'IA. Par rapport aux autres intrants clés de l'IA (les données et les algorithmes), le compute pertinent pour l'IA constitue un point d'intervention particulièrement efficace : il est détectable, excluable et quantifiable, et est produit via une chaîne d'approvisionnement extrêmement concentrée. Ces caractéristiques, associées à l'importance cruciale du compute pour les modèles d'IA de pointe, suggèrent que la régulation du compute peut contribuer à atteindre des objectifs politiques communs, tels qu'assurer la sécurité et l'utilisation bénéfique de l'IA. Plus précisément, les décideurs politiques pourraient utiliser le compute pour faciliter la visibilité réglementaire de l'IA, allouer des ressources pour promouvoir des résultats bénéfiques et faire respecter des restrictions contre le développement et l'utilisation irresponsables ou malveillants de l'IA. Cependant, bien que les politiques et technologies basées sur le compute aient le potentiel d'aider dans ces domaines, leur état de préparation pour la mise en œuvre varie considérablement. Certaines idées sont actuellement testées, tandis que d'autres sont entravées par le besoin de recherches fondamentales. De plus, des approches naïves ou mal définies de la gouvernance du compute comportent des risques importants dans des domaines tels que la confidentialité, les impacts économiques et la centralisation du pouvoir. Nous concluons en suggérant des garde-fous pour minimiser ces risques liés à la gouvernance du compute.

English

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.