초지능과 법
Superintelligence and Law
March 30, 2026
저자: Noam Kolt
cs.AI
초록
인공 초지능 — 인지적 과실과 경제적으로 가치 있는 활동에서 인간을 종합적으로 능가하는 AI 에이전트 — 의 출현은 우리가 알고 있는 법적 질서를 근본적으로 변화시킬 것이다. 자율적으로 또는 제한된 인간의 감독 하에 운영되는 AI 에이전트는 법 체계 내에서 점점 더 다양한 역할을 수행하게 될 것이다. 첫째, 중대한 결정을 내리고 현실 세계에서 행동을 취함으로써 AI 에이전트는 사실상 법의 주체가 될 것이다. 둘째, 다른 행위자(인간 또는 비인간)와 협력하고 경쟁하기 위해 AI 에이전트는 계약이나 법원과 같은 기존의 법적 수단과 제도를 활용함으로써 법의 소비자가 될 것이다. 셋째, AI 에이전트가 법을 제정하고, 해석하고, 집행하는 기능을 수행하는 한, 그들은 법의 생산자이자 집행자가 될 것이다. 이러한 발전이 궁극적으로 언제 발생하든, 이는 법 이론과 법 교의의 근본적인 전제, 특히 법 제도의 정당성을 그 인간적 기원에 두는 관점에 의문을 제기할 것이다. AI 에이전트를 기존 인간의 법에 맞추려는 시도도 새로운 도전에 직면할 것이다. AI 에이전트는 법의 주요 대상일 뿐만 아니라, 법의 핵심 사용자이자 법에 기여하는 존재가 될 것이기 때문이다. 초지능의 등장에 대처하기 위해 (새로운 법제정자와 기존 법제정자를 막론하고) 입법자들은 현실을 직시해야 한다. 즉, 사회가 초지능을 대비하는 과정에서 법적 제도를 형성할 기회가 있음을 인식하면서도, 장기적으로 볼 때 이는 인간과 AI의 공동 과제가 될 수 있음을 깨달아야 한다.
English
The prospect of artificial superintelligence -- AI agents that can generally outperform humans in cognitive tasks and economically valuable activities -- will transform the legal order as we know it. Operating autonomously or under only limited human oversight, AI agents will assume a growing range of roles in the legal system. First, in making consequential decisions and taking real-world actions, AI agents will become de facto subjects of law. Second, to cooperate and compete with other actors (human or non-human), AI agents will harness conventional legal instruments and institutions such as contracts and courts, becoming consumers of law. Third, to the extent AI agents perform the functions of writing, interpreting, and administering law, they will become producers and enforcers of law. These developments, whenever they ultimately occur, will call into question fundamental assumptions in legal theory and doctrine, especially to the extent they ground the legitimacy of legal institutions in their human origins. Attempts to align AI agents with extant human law will also face new challenges as AI agents will not only be a primary target of law, but a core user of law and contributor to law. To contend with the advent of superintelligence, lawmakers -- new and old -- will need to be clear-eyed, recognizing both the opportunity to shape legal institutions as society braces for superintelligence and the reality that, in the longer run, this may be a joint human-AI endeavor.