Сверхразум и право

Superintelligence and Law

March 30, 2026

Авторы: Noam Kolt

cs.AI

Аннотация

Перспектива появления искусственного сверхразума — систем ИИ, способных в целом превосходить людей в когнитивных задачах и экономически значимых видах деятельности — преобразит правовой порядок в его нынешнем виде. Действуя автономно или под ограниченным контролем человека, агенты ИИ будут занимать все более широкий спектр ролей в правовой системе. Во-первых, принимая важные решения и совершая действия в реальном мире, агенты ИИ станут де-факто субъектами права. Во-вторых, для сотрудничества и конкуренции с другими участниками (человеческими и нечеловеческими) агенты ИИ будут использовать традиционные правовые инструменты и институты, такие как договоры и суды, становясь потребителями права. В-третьих, в той мере, в какой агенты ИИ будут выполнять функции создания, толкования и применения законов, они превратятся в производителей и правоприменителей. Эти изменения, когда бы они ни произошли, поставят под сомнение фундаментальные предпосылки правовой теории и доктрины, особенно те, что обосновывают легитимность правовых институтов их человеческим происхождением. Попытки согласовать агентов ИИ с существующим человеческим правом также столкнутся с новыми вызовами, поскольку агенты ИИ будут не только основной мишенью права, но и его ключевым пользователем и соавтором. Чтобы противостоять наступлению эры сверхразума, законодателям — как традиционным, так и новым — необходимо трезво оценивать как возможность формировать правовые институты в преддверии его появления, так и тот факт, что в долгосрочной перспективе это может стать совместным предприятием человечества и ИИ.

English

The prospect of artificial superintelligence -- AI agents that can generally outperform humans in cognitive tasks and economically valuable activities -- will transform the legal order as we know it. Operating autonomously or under only limited human oversight, AI agents will assume a growing range of roles in the legal system. First, in making consequential decisions and taking real-world actions, AI agents will become de facto subjects of law. Second, to cooperate and compete with other actors (human or non-human), AI agents will harness conventional legal instruments and institutions such as contracts and courts, becoming consumers of law. Third, to the extent AI agents perform the functions of writing, interpreting, and administering law, they will become producers and enforcers of law. These developments, whenever they ultimately occur, will call into question fundamental assumptions in legal theory and doctrine, especially to the extent they ground the legitimacy of legal institutions in their human origins. Attempts to align AI agents with extant human law will also face new challenges as AI agents will not only be a primary target of law, but a core user of law and contributor to law. To contend with the advent of superintelligence, lawmakers -- new and old -- will need to be clear-eyed, recognizing both the opportunity to shape legal institutions as society braces for superintelligence and the reality that, in the longer run, this may be a joint human-AI endeavor.