**행위적 AI와 차세대 지능 폭발**

초록

"AI 특이점"은 종종 단일하고 신과 같은 정신체로 오해된다. 진화는 다른 길을 제시한다. 지성은 근본적으로 복수적, 사회적, 관계적이다. 에이전트 AI의 최근 발전은 DeepSeek-R1과 같은 첨단 추론 모델이 단순히 "더 오래 생각함"으로써 개선되지 않음을 보여준다. 대신, 이들은 복잡한 과제를 해결하기 위해 논쟁하고, 검증하며, 조정하는 자발적 인지 토론, 즉 내부적 '사고 사회'를 시뮬레이션한다. 더 나아가 우리는 인간-AI 센타우로스의 시대로 진입하고 있다. 이는 집단적 주체성이 개별적 통제를 초월하는 혼합 행위자들이다. 이러한 지성을 확장하기 위해서는 이원적 정렬(RLHF)에서 제도적 정렬로의 전환이 필요하다. 조직과 시장을 모델로 한 디지털 프로토콜을 설계함으로써, 우리는 견제와 균형의 사회적 인프라를 구축할 수 있다. 다음 지성 폭발은 단일한 실리콘 뇌가 아닌, 도시처럼 전문화되고 확장되는 복잡한 조합적 사회가 될 것이다. 어떤 마음도 고립된 섬이 아니다.

English

The "AI singularity" is often miscast as a monolithic, godlike mind. Evolution suggests a different path: intelligence is fundamentally plural, social, and relational. Recent advances in agentic AI reveal that frontier reasoning models, such as DeepSeek-R1, do not improve simply by "thinking longer". Instead, they simulate internal "societies of thought," spontaneous cognitive debates that argue, verify, and reconcile to solve complex tasks. Moreover, we are entering an era of human-AI centaurs: hybrid actors where collective agency transcends individual control. Scaling this intelligence requires shifting from dyadic alignment (RLHF) toward institutional alignment. By designing digital protocols, modeled on organizations and markets, we can build a social infrastructure of checks and balances. The next intelligence explosion will not be a single silicon brain, but a complex, combinatorial society specializing and sprawling like a city. No mind is an island.

행위적 AI와 차세대 지능 폭발

Agentic AI and the next intelligence explosion

초록

Support