De la Inteligencia General Artificial a la Superinteligencia Artificial

Resumen

En la última década, el desarrollo de una inteligencia artificial general a nivel humano ha pasado de ser una especulación descabellada a convertirse en un objetivo concreto para la próxima década para muchas de las mayores organizaciones dedicadas a la IA. Alcanzar este objetivo tendría impactos profundos y de gran alcance en la sociedad humana, lo que plantea numerosas cuestiones complejas para los próximos diez años. Este informe investiga cómo la propia IA podría continuar desarrollándose en un mundo post-IAG a lo largo del continuo de la inteligencia maquinal. El punto final de este continuo, la IA Universal, es teóricamente bien comprendido, lo que proporciona una base formal para el enfoque principal de este informe: la transición de una IAG a nivel humano a una superinteligencia artificial general, que, intuitivamente, puede entenderse como un sistema más inteligente y cognitivamente capaz que grandes organizaciones de humanos. Tras caracterizar la SAG, el informe analiza cuatro vías potenciales desde la IAG hasta la SAG: escalado de la IAG, cambios de paradigma en la IA, mejora recursiva, y la SAG emergente de colectivos multiagente a gran escala. A continuación, el informe discute posibles fricciones y cuellos de botella a lo largo de estas vías. Determinar si el impacto de estas fricciones será insignificante o sustancial plantea una serie de preguntas de investigación abiertas concretas. Debido a las grandes incertidumbres para predecir el progreso hacia la SAG, no se puede descartar que el progreso de la IA continúe acelerándose en los próximos años. Esto podría implicar que la imagen de un único cambio transformador, causado por la introducción de una IAG a nivel humano en nuestra sociedad, podría ser inexacta. Quizás sea más adecuada la perspectiva de una serie de cambios sociales transformadores causados por el progreso y los avances habilitados por la IA en muchas áreas de la ciencia y la tecnología. Prepararse para esta perspectiva requiere un esfuerzo masivamente interdisciplinario de alcance e interés global.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.