IA e Umano: Miglioramento Reciproco per una Co-Superintelligenza Più Sicura
AI & Human Co-Improvement for Safer Co-Superintelligence
December 5, 2025
Autori: Jason Weston, Jakob Foerster
cs.AI
Abstract
L'auto-miglioramento è un obiettivo che attualmente entusiasma il campo dell'IA, ma è carico di pericoli e potrebbe richiedere tempo per essere pienamente raggiunto. Sosteniamo che un obiettivo più realizzabile e migliore per l'umanità sia massimizzare il co-miglioramento: la collaborazione tra ricercatori umani e IA per raggiungere una co-superintelligenza. Ciò significa, specificamente, mirare a migliorare la capacità dei sistemi di IA di lavorare con i ricercatori umani per condurre insieme la ricerca sull'IA, dall'ideazione alla sperimentazione, al fine sia di accelerare la ricerca sull'IA che di dotare in generale sia le IA che gli esseri umani di una superintelligenza più sicura attraverso la loro simbiosi. Concentrarsi sull'includere il miglioramento della ricerca umana nel ciclo ci porterà più velocemente e in modo più sicuro a questo traguardo.
English
Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.