IA & Melhoria Humana Mútua para uma Co-superinteligência Mais Segura
AI & Human Co-Improvement for Safer Co-Superintelligence
December 5, 2025
Autores: Jason Weston, Jakob Foerster
cs.AI
Resumo
A autossuperação é um objetivo que atualmente entusiasma o campo da IA, mas está repleto de perigos e pode levar tempo para ser totalmente alcançado. Defendemos que um objetivo mais realizável e melhor para a humanidade é maximizar a cocapacitação: a colaboração entre investigadores humanos e IAs para alcançar uma cosuperinteligência. Ou seja, visar especificamente melhorar a capacidade dos sistemas de IA para trabalhar com investigadores humanos na realização conjunta de investigação em IA, desde a ideação até à experimentação, de modo a acelerar a investigação em IA e a dotar, de forma geral, tanto as IAs como os humanos com uma superinteligência mais segura através da sua simbiose. Concentrar-nos em incluir a melhoria da investigação humana no ciclo permitirá-nos chegar lá mais rapidamente e com maior segurança.
English
Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.