Co-amélioration IA-Humain pour une Co-superintelligence Plus Sûre
AI & Human Co-Improvement for Safer Co-Superintelligence
December 5, 2025
papers.authors: Jason Weston, Jakob Foerster
cs.AI
papers.abstract
L'auto-amélioration est un objectif qui passionne actuellement le domaine de l'IA, mais il est semé d'embûches et pourrait prendre du temps à être pleinement réalisé. Nous soutenons qu'un objectif plus réalisable et plus bénéfique pour l'humanité est de maximiser la co-amélioration : la collaboration entre chercheurs humains et IA pour atteindre une co-superintelligence. Autrement dit, cibler spécifiquement l'amélioration de la capacité des systèmes d'IA à travailler avec les chercheurs humains pour mener conjointement des recherches en IA, de la génération d'idées à l'expérimentation, afin à la fois d'accélérer la recherche en IA et de doter généralement les IA et les humains d'une superintelligence plus sûre grâce à leur symbiose. Se concentrer sur l'inclusion de l'amélioration de la recherche humaine dans la boucle nous y mènera à la fois plus rapidement et plus sûrement.
English
Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.