KI & menschliche Ko-Verbesserung für sicherere Ko-Superintelligenz

AI & Human Co-Improvement for Safer Co-Superintelligence

December 5, 2025

papers.authors: Jason Weston, Jakob Foerster

cs.AI

papers.abstract

Selbstverbesserung ist ein Ziel, das derzeit das Feld der KI beflügelt, ist jedoch mit Gefahren verbunden und könnte lange dauern, bis es vollständig erreicht ist. Wir plädieren dafür, dass ein erreichbareres und besseres Ziel für die Menschheit darin besteht, die gemeinsame Verbesserung zu maximieren: die Zusammenarbeit zwischen menschlichen Forschern und KIs, um eine gemeinsame Superintelligenz zu erreichen. Das heißt, wir sollten gezielt die Fähigkeit von KI-Systemen verbessern, mit menschlichen Forschern zusammenzuarbeiten, um gemeinsam KI-Forschung von der Ideenfindung bis zum Experiment zu betreiben. Dies soll sowohl die KI-Forschung beschleunigen als auch sowohl KIs als auch Menschen durch ihre Symbiose mit sicherer Superintelligenz ausstatten. Indem wir die Verbesserung menschlicher Forschung in den Kreislauf einbeziehen, gelangen wir nicht nur schneller, sondern auch sicherer dorthin.

English

Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.