Rechenleistung und die Governance Künstlicher Intelligenz

Computing Power and the Governance of Artificial Intelligence

February 13, 2024

Autoren: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle

cs.AI

Zusammenfassung

Rechenleistung, oder "Compute", ist entscheidend für die Entwicklung und den Einsatz von künstlicher Intelligenz (KI). Infolgedessen haben Regierungen und Unternehmen begonnen, Compute als Mittel zur Regulierung von KI zu nutzen. Beispielsweise investieren Regierungen in inländische Rechenkapazitäten, kontrollieren den Fluss von Compute in konkurrierende Länder und subventionieren den Zugang zu Compute für bestimmte Sektoren. Diese Bemühungen kratzen jedoch nur an der Oberfläche dessen, wie Compute zur Steuerung der KI-Entwicklung und -Nutzung eingesetzt werden kann. Im Vergleich zu anderen wichtigen Inputs für KI (Daten und Algorithmen) ist KI-relevante Compute ein besonders effektiver Interventionspunkt: sie ist nachweisbar, ausschließbar und quantifizierbar und wird über eine extrem konzentrierte Lieferkette produziert. Diese Eigenschaften, zusammen mit der einzigartigen Bedeutung von Compute für KI-Modelle der Spitzenklasse, legen nahe, dass die Regulierung von Compute dazu beitragen kann, gemeinsame politische Ziele zu erreichen, wie z. B. die Sicherstellung der Sicherheit und des vorteilhaften Einsatzes von KI. Genauer gesagt könnten politische Entscheidungsträger Compute nutzen, um die regulatorische Sichtbarkeit von KI zu fördern, Ressourcen zur Förderung positiver Ergebnisse zuzuweisen und Beschränkungen gegen verantwortungslose oder bösartige KI-Entwicklung und -Nutzung durchzusetzen. Während Compute-basierte Politiken und Technologien das Potenzial haben, in diesen Bereichen zu unterstützen, gibt es erhebliche Unterschiede in ihrer Einsatzbereitschaft. Einige Ideen werden derzeit erprobt, während andere durch den Bedarf an grundlegender Forschung behindert werden. Darüber hinaus bergen naive oder schlecht abgesteckte Ansätze zur Compute-Regulierung erhebliche Risiken in Bereichen wie Datenschutz, wirtschaftlichen Auswirkungen und der Zentralisierung von Macht. Wir schließen mit Vorschlägen für Leitplanken, um diese Risiken der Compute-Regulierung zu minimieren.

English

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.