Poder Computacional e a Governança da Inteligência Artificial
Computing Power and the Governance of Artificial Intelligence
February 13, 2024
Autores: Girish Sastry, Lennart Heim, Haydn Belfield, Markus Anderljung, Miles Brundage, Julian Hazell, Cullen O'Keefe, Gillian K. Hadfield, Richard Ngo, Konstantin Pilz, George Gor, Emma Bluemke, Sarah Shoker, Janet Egan, Robert F. Trager, Shahar Avin, Adrian Weller, Yoshua Bengio, Diane Coyle
cs.AI
Resumo
O poder de computação, ou "compute", é crucial para o desenvolvimento e implantação de capacidades de inteligência artificial (IA). Como resultado, governos e empresas começaram a utilizar o compute como um meio para governar a IA. Por exemplo, os governos estão investindo em capacidade de compute doméstica, controlando o fluxo de compute para países concorrentes e subsidiando o acesso ao compute para determinados setores. No entanto, esses esforços apenas arranham a superfície de como o compute pode ser usado para governar o desenvolvimento e a implantação da IA. Em relação a outros insumos-chave da IA (dados e algoritmos), o compute relevante para a IA é um ponto de intervenção particularmente eficaz: é detectável, excluível e quantificável, e é produzido por meio de uma cadeia de suprimentos extremamente concentrada. Essas características, juntamente com a importância singular do compute para modelos de IA de ponta, sugerem que governar o compute pode contribuir para alcançar objetivos políticos comuns, como garantir a segurança e o uso benéfico da IA. Mais precisamente, os formuladores de políticas poderiam usar o compute para facilitar a visibilidade regulatória da IA, alocar recursos para promover resultados benéficos e impor restrições contra o desenvolvimento e uso irresponsável ou malicioso da IA. No entanto, embora políticas e tecnologias baseadas em compute tenham o potencial de auxiliar nessas áreas, há uma variação significativa em sua prontidão para implementação. Algumas ideias estão atualmente sendo testadas, enquanto outras são prejudicadas pela necessidade de pesquisa fundamental. Além disso, abordagens ingênuas ou mal dimensionadas para a governança do compute carregam riscos significativos em áreas como privacidade, impactos econômicos e centralização de poder. Concluímos sugerindo guardrails para minimizar esses riscos da governança do compute.
English
Computing power, or "compute," is crucial for the development and deployment
of artificial intelligence (AI) capabilities. As a result, governments and
companies have started to leverage compute as a means to govern AI. For
example, governments are investing in domestic compute capacity, controlling
the flow of compute to competing countries, and subsidizing compute access to
certain sectors. However, these efforts only scratch the surface of how compute
can be used to govern AI development and deployment. Relative to other key
inputs to AI (data and algorithms), AI-relevant compute is a particularly
effective point of intervention: it is detectable, excludable, and
quantifiable, and is produced via an extremely concentrated supply chain. These
characteristics, alongside the singular importance of compute for cutting-edge
AI models, suggest that governing compute can contribute to achieving common
policy objectives, such as ensuring the safety and beneficial use of AI. More
precisely, policymakers could use compute to facilitate regulatory visibility
of AI, allocate resources to promote beneficial outcomes, and enforce
restrictions against irresponsible or malicious AI development and usage.
However, while compute-based policies and technologies have the potential to
assist in these areas, there is significant variation in their readiness for
implementation. Some ideas are currently being piloted, while others are
hindered by the need for fundamental research. Furthermore, naive or poorly
scoped approaches to compute governance carry significant risks in areas like
privacy, economic impacts, and centralization of power. We end by suggesting
guardrails to minimize these risks from compute governance.