Capacidad de cómputo y la gobernanza de la inteligencia artificial

Computing Power and the Governance of Artificial Intelligence

February 13, 2024

Autores: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle

cs.AI

Resumen

El poder de cómputo, o "compute", es crucial para el desarrollo y despliegue de capacidades de inteligencia artificial (IA). Como resultado, gobiernos y empresas han comenzado a utilizar el compute como un medio para gobernar la IA. Por ejemplo, los gobiernos están invirtiendo en capacidad de compute doméstica, controlando el flujo de compute hacia países competidores y subsidiando el acceso a compute para ciertos sectores. Sin embargo, estos esfuerzos apenas rozan la superficie de cómo el compute puede usarse para gobernar el desarrollo y despliegue de la IA. En comparación con otros insumos clave para la IA (datos y algoritmos), el compute relevante para la IA es un punto de intervención particularmente efectivo: es detectable, excluible y cuantificable, y se produce a través de una cadena de suministro extremadamente concentrada. Estas características, junto con la importancia singular del compute para los modelos de IA de vanguardia, sugieren que gobernar el compute puede contribuir a alcanzar objetivos políticos comunes, como garantizar la seguridad y el uso beneficioso de la IA. Más precisamente, los formuladores de políticas podrían usar el compute para facilitar la visibilidad regulatoria de la IA, asignar recursos para promover resultados beneficiosos y hacer cumplir restricciones contra el desarrollo y uso irresponsable o malicioso de la IA. Sin embargo, aunque las políticas y tecnologías basadas en compute tienen el potencial de ayudar en estas áreas, existe una variación significativa en su preparación para la implementación. Algunas ideas se están probando actualmente, mientras que otras se ven obstaculizadas por la necesidad de investigación fundamental. Además, los enfoques ingenuos o mal definidos para la gobernanza del compute conllevan riesgos significativos en áreas como la privacidad, los impactos económicos y la centralización del poder. Concluimos sugiriendo salvaguardias para minimizar estos riesgos en la gobernanza del compute.

English

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.