AGI에서 ASI로

초록

지난 10년 동안, 인간 수준의 인공 일반 지능(AGI)을 구축하는 것은 먼 미래의 추측에 불과한 주제에서 많은 대형 AI 조직들의 구체적인 향후 10년 목표로 전환되었다. 이러한 목표의 달성은 인간 사회에 광범위하고 지대한 영향을 미칠 것이며, 이는 향후 10년 동안 해결해야 할 많은 복잡한 질문들을 제기한다. 본 보고서는 기계 지능의 연속선 상에서 AI 자체가 포스트-AGI 세계에서 어떻게 계속 발전할 수 있을지 탐구한다. 이 연속선의 종점인 유니버설 AI는 이론적으로 잘 이해되어 있으며, 이는 본 보고서의 주요 초점인 인간 수준의 AGI에서 인공 일반 초지능(ASI)으로의 전환에 대한 공식적 기반을 제공한다. 직관적으로 ASI는 대규모 인간 조직보다 더 지능적이고 인지적 능력이 뛰어난 시스템으로 이해될 수 있다. 보고서는 ASI의 특성을 규명한 후, AGI에서 ASI로 가는 네 가지 잠재적 경로, 즉 AGI 확장, AI 패러다임 전환, 재귀적 개선, 대규모 다중 에이전트 집단에서의 ASI 출현에 대해 논의한다. 이어서 이러한 경로를 따라 발생할 수 있는 마찰과 병목 현상을 논의한다. 이러한 마찰의 영향이 미미할지 또는 실질적일지 결정하는 것은 몇 가지 구체적인 공개 연구 질문을 제기한다. ASI 발전을 예측하는 데는 큰 불확실성이 존재하므로, 향후 AI 발전이 계속 가속화될 가능성을 배제할 수 없다. 이는 인간 수준의 AGI가 사회에 도입됨으로 인한 단일 변혁적 단계적 변화라는 이미지가 부정확할 수 있음을 시사한다. AI가 가능하게 하는 과학 및 기술의 여러 영역에서의 진보와 돌파구로 인해 발생하는 일련의 변혁적 사회 변화 전망이 더 적절할 수 있다. 이러한 전망에 대비하기 위해서는 전 세계적 범위와 관심을 가진 대규모 학제적 노력이 필요하다.

English

Over the last decade, building human-level artificial general intelligence has moved from far-fetched speculation to being a concrete next-decade target for many of the largest AI organisations. Achieving this goal would have profound and far-reaching impacts on human society, which raises many complex questions for the decade ahead. This report investigates how AI itself might continue to develop in a post-AGI world along the continuum of machine intelligence. The endpoint of this continuum, Universal AI, is theoretically well understood, which provides some formal grounding for the main focus of this report: the transition from human-level AGI to artificial general superintelligence, which, intuitively, can be understood as a system that is more intelligent and cognitively capable than large organisations of humans. After characterizing ASI, the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives. The report then discusses possible frictions and bottlenecks along these pathways. Determining whether the impact of these frictions will be negligible or substantial raises a number of concrete open research questions. Due to large uncertainties for predicting ASI progress, it cannot be ruled out that AI progress might continue to accelerate over the next years. This could imply that the image of a single transformative step change, caused by the introduction of human-level AGI into our society, could be inaccurate. More apt might be the prospect of a series of transformative societal changes caused by AI-enabled progress and breakthroughs across many areas of science and technology. Preparing for this prospect requires a massively interdisciplinary endeavour of global scope and interest.