AIと人間の共進化による安全な共超知能の実現へ

AI & Human Co-Improvement for Safer Co-Superintelligence

December 5, 2025

著者: Jason Weston, Jakob Foerster

cs.AI

要旨

自己改善は現在AI分野を活気づける目標であるが、危険性に満ちており、完全な達成には時間を要する可能性がある。我々は、人類にとってより達成可能かつ優れた目標は、人間研究者とAIの協調による「共進化」の最大化、すなわち共超知能の実現にあると提唱する。具体的には、AI研究の加速と、共生を通じたAIと人間双方への安全な超知能の付与を目的として、構想段階から実験まで共同でAI研究を実施するため、AIシステムの人間研究者との協働能力向上を特に標的とする。人間の研究能力向上をループに組み込むことに焦点を当てることで、より迅速かつ安全に目標達成が可能となる。

English

Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.