計算能力と人工知能のガバナンス

Computing Power and the Governance of Artificial Intelligence

February 13, 2024

著者: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle

cs.AI

要旨

計算能力、または「コンピュート」は、人工知能（AI）の能力の開発と展開において極めて重要です。その結果、政府や企業はAIを統治する手段としてコンピュートを活用し始めています。例えば、政府は国内のコンピュート能力に投資し、競合国へのコンピュートの流れを制御し、特定のセクターへのコンピュートアクセスを補助しています。しかし、これらの取り組みは、コンピュートがAIの開発と展開を統治するためにどのように使用できるかについての表面をなぞったに過ぎません。AIの他の主要な入力（データとアルゴリズム）と比較して、AI関連のコンピュートは特に効果的な介入ポイントです。それは検出可能で、排除可能で、定量化可能であり、極めて集中したサプライチェーンを通じて生産されます。これらの特性と、最先端のAIモデルにとってのコンピュートの重要性を考えると、コンピュートを統治することが、AIの安全性と有益な使用を確保するといった共通の政策目標の達成に貢献できることが示唆されます。より具体的には、政策立案者はコンピュートを使用して、AIの規制上の可視性を促進し、有益な結果を促進するためにリソースを割り当て、無責任または悪意のあるAIの開発と使用に対する制限を実施することができます。しかし、コンピュートベースの政策と技術はこれらの分野で支援する可能性がある一方で、その実装準備には大きなばらつきがあります。いくつかのアイデアは現在パイロット段階にありますが、他のものは基礎研究の必要性によって妨げられています。さらに、コンピュート統治に対する単純または不適切なアプローチは、プライバシー、経済的影響、権力の集中などの分野で重大なリスクを伴います。最後に、コンピュート統治からこれらのリスクを最小限に抑えるためのガードレールを提案します。

English

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.