Искусственный интеллект и человек: совместное совершенствование для безопасной совместной сверхразумности
AI & Human Co-Improvement for Safer Co-Superintelligence
December 5, 2025
Авторы: Jason Weston, Jakob Foerster
cs.AI
Аннотация
Самосовершенствование — это цель, которая в настоящее время волнует область ИИ, но сопряжена с опасностями и может потребовать времени для полного достижения. Мы утверждаем, что более достижимой и лучшей целью для человечества является максимизация совместного совершенствования: сотрудничества между исследователями-людьми и ИИ для достижения совместного сверхразума. А именно, целенаправленное улучшение способности систем ИИ работать с исследователями-людьми для совместного проведения исследований в области ИИ — от генерации идей до экспериментирования — с целью как ускорения исследований в области ИИ, так и наделения как ИИ, так и людей в целом более безопасным сверхразумом через их симбиоз. Сосредоточение на включении улучшения человеческих исследований в этот цикл позволит достичь этой цели быстрее и безопаснее.
English
Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.