Instituições Internacionais para IA Avançada

International Institutions for Advanced AI

July 10, 2023

Autores: Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal

cs.AI

Resumo

Instituições internacionais podem desempenhar um papel importante na garantia de que sistemas avançados de IA beneficiem a humanidade. Colaborações internacionais podem desbloquear a capacidade da IA de promover o desenvolvimento sustentável, e a coordenação de esforços regulatórios pode reduzir obstáculos à inovação e à disseminação de benefícios. Por outro lado, as capacidades potencialmente perigosas de sistemas de IA poderosos e de propósito geral criam externalidades globais em seu desenvolvimento e implantação, e esforços internacionais para promover práticas responsáveis de IA podem ajudar a gerenciar os riscos que eles representam. Este artigo identifica um conjunto de funções de governança que poderiam ser realizadas em nível internacional para enfrentar esses desafios, variando desde o apoio ao acesso a sistemas de IA de fronteira até a definição de padrões internacionais de segurança. Essas funções são agrupadas em quatro modelos institucionais que exibem sinergias internas e têm precedentes em organizações existentes: 1) uma Comissão sobre IA de Fronteira que facilita o consenso de especialistas sobre oportunidades e riscos da IA avançada, 2) uma Organização de Governança de IA Avançada que estabelece padrões internacionais para gerenciar ameaças globais de modelos avançados, apoia sua implementação e possivelmente monitora a conformidade com um futuro regime de governança, 3) uma Colaborativa de IA de Fronteira que promove o acesso à IA de ponta, e 4) um Projeto de Segurança de IA que reúne pesquisadores e engenheiros líderes para avançar a pesquisa em segurança de IA. Exploramos a utilidade desses modelos e identificamos questões em aberto sobre sua viabilidade.

English

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.