Da IAG à SIA

Resumo

Na última década, a construção de inteligência artificial geral a nível humano passou de uma especulação remota para ser um objetivo concreto para a próxima década para muitas das maiores organizações de IA. Alcançar este objetivo teria impactos profundos e de grande alcance na sociedade humana, o que levanta muitas questões complexas para a década vindoura. Este relatório investiga como a própria IA pode continuar a se desenvolver num mundo pós-AGI ao longo do continuum da inteligência de máquina. O ponto final deste continuum, a IA Universal, é teoricamente bem compreendido, o que fornece algum fundamento formal para o foco principal deste relatório: a transição da AGI a nível humano para a superinteligência geral artificial, que, intuitivamente, pode ser entendida como um sistema que é mais inteligente e cognitivamente capaz do que grandes organizações de humanos. Após caracterizar a ASI, o relatório discute quatro caminhos potenciais da AGI para a ASI: escalonamento da AGI, mudanças de paradigma na IA, melhoria recursiva e ASI emergindo de coletivos multiagente em grande escala. O relatório então discute possíveis fricções e gargalos ao longo desses caminhos. Determinar se o impacto dessas fricções será negligenciável ou substancial levanta uma série de questões de pesquisa abertas e concretas. Devido a grandes incertezas na previsão do progresso da ASI, não se pode descartar que o progresso da IA possa continuar a acelerar nos próximos anos. Isso pode implicar que a imagem de uma única mudança transformadora, causada pela introdução da AGI a nível humano na nossa sociedade, pode ser imprecisa. Mais adequada pode ser a perspetiva de uma série de mudanças sociais transformadoras causadas pelo progresso e avanços possibilitados pela IA em muitas áreas da ciência e tecnologia. Preparar-se para esta perspetiva requer um esforço massivamente interdisciplinar de âmbito e interesse globais.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.