인간과 AI의 공동 진화를 통한 안전한 공동 초지능 구현

초록

자기 발전은 현재 AI 분야를 흥분시키는 목표이지만 위험으로 가득하며 완전히 달성하는 데 시간이 걸릴 수 있습니다. 우리는 인류에게 더 실현 가능하고 나은 목표가 공동 발전, 즉 인간 연구자와 AI의 협력을 극대화하여 공동 초지능을 달성하는 것이라고 주장합니다. 즉, 아이디어 구상부터 실험까지 AI 연구를 함께 수행하기 위해 인간 연구자와 협력하는 AI 시스템의 능력을 향상시키는 것을 특별히 목표로 삼음으로써 AI 연구를 가속화하고 공생을 통해 AI와 인간 모두에게 더 안전한 초지능을 부여하는 것입니다. 인간 연구 개선을 포함하는 루프에 초점을 맞추면 더 빠르고 안전하게 목표에 도달할 수 있을 것입니다.

English

Self-improvement is a goal currently exciting the field of AI, but is fraught with danger, and may take time to fully achieve. We advocate that a more achievable and better goal for humanity is to maximize co-improvement: collaboration between human researchers and AIs to achieve co-superintelligence. That is, specifically targeting improving AI systems' ability to work with human researchers to conduct AI research together, from ideation to experimentation, in order to both accelerate AI research and to generally endow both AIs and humans with safer superintelligence through their symbiosis. Focusing on including human research improvement in the loop will both get us there faster, and more safely.

인간과 AI의 공동 진화를 통한 안전한 공동 초지능 구현

AI & Human Co-Improvement for Safer Co-Superintelligence

초록

Support