AI en Menselijke Gezamenlijke Verbetering voor Veiligere Co-Superintelligentie
AI & Human Co-Improvement for Safer Co-Superintelligence
December 5, 2025
Auteurs: Jason Weston, Jakob Foerster
cs.AI
Samenvatting
Zelfverbetering is een doel dat momenteel veel opwinding veroorzaakt in het veld van AI, maar het is bezaaid met gevaren en het kan tijd kosten om het volledig te verwezenlijken. Wij bepleiten dat een haalbaarder en beter doel voor de mensheid is om co-verbetering te maximaliseren: de samenwerking tussen menselijke onderzoekers en AI's om tot co-superintelligentie te komen. Dit houdt in dat we ons specifiek richten op het verbeteren van het vermogen van AI-systemen om samen met menselijke onderzoekers AI-onderzoek te verrichten, van idee-vorming tot experimenteren, om zowel het AI-onderzoek te versnellen als om zowel AI's als mensen veiligere superintelligentie te verschaffen door hun symbiose. Door de verbetering van menselijk onderzoek in de feedbackloop op te nemen, bereiken we dit doel sneller en veiliger.
English
Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.