IA y Humanos en Mejora Mutua para una Co-Superinteligencia Más Segura
AI & Human Co-Improvement for Safer Co-Superintelligence
December 5, 2025
Autores: Jason Weston, Jakob Foerster
cs.AI
Resumen
La automejora es un objetivo que actualmente entusiasma al campo de la IA, pero está plagado de peligros y puede llevar tiempo alcanzarlo plenamente. Sostenemos que un objetivo más alcanzable y mejor para la humanidad es maximizar la comejora: la colaboración entre investigadores humanos e IA para lograr una cosuperinteligencia. Es decir, apuntar específicamente a mejorar la capacidad de los sistemas de IA para trabajar con investigadores humanos y realizar investigación en IA de manera conjunta, desde la ideación hasta la experimentación, con el fin de acelerar la investigación en IA y, en general, dotar tanto a las IA como a los humanos de una superinteligencia más segura mediante su simbiosis. Centrarse en incluir la mejora de la investigación humana en el ciclo nos llevará allí más rápido y de forma más segura.
English
Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.