超知能と法

Superintelligence and Law

March 30, 2026

著者: Noam Kolt

cs.AI

要旨

人工超知能——すなわち、認知タスクや経済的に価値のある活動において人間を総合的に凌駕するAIエージェント——の出現は、既存の法的秩序を根本から変革するだろう。自律的に、あるいは限定的な人間の監督下で動作するAIエージェントは、法制度においてますます多様な役割を担うようになる。第一に、重要な意思決定を行い現実世界で行動するAIエージェントは、事実上の法の主体となる。第二に、他の行為者（人間または非人間）と協力し競争するために、AIエージェントは契約や裁判所といった従来の法的手段や制度を利用し、法の消費者となる。第三に、AIエージェントが法の制定、解釈、執行の機能を果たすようになれば、それらは法の生産者かつ執行者となる。これらの進展が最終的にいつ起こるにせよ、それは法理論や法解釈の根本的前提、特に法制度の正統性をその人間由来性に置く考え方に疑問を投げかけることになる。既存の人間の法にAIエージェントを適合させようとする試みも新たな課題に直面するだろう。なぜならAIエージェントは、法の主要な対象であるだけでなく、法の核心的な利用者であり、法への貢献者にもなるからである。超知能の到来に対処するためには、新旧の立法者は、社会が超知能に備える中で法制度を形成する機会と、長期的にはこれが人間とAIの共同作業となるかもしれない現実の双方を、冷静に認識する必要がある。

English

The prospect of artificial superintelligence -- AI agents that can generally outperform humans in cognitive tasks and economically valuable activities -- will transform the legal order as we know it. Operating autonomously or under only limited human oversight, AI agents will assume a growing range of roles in the legal system. First, in making consequential decisions and taking real-world actions, AI agents will become de facto subjects of law. Second, to cooperate and compete with other actors (human or non-human), AI agents will harness conventional legal instruments and institutions such as contracts and courts, becoming consumers of law. Third, to the extent AI agents perform the functions of writing, interpreting, and administering law, they will become producers and enforcers of law. These developments, whenever they ultimately occur, will call into question fundamental assumptions in legal theory and doctrine, especially to the extent they ground the legitimacy of legal institutions in their human origins. Attempts to align AI agents with extant human law will also face new challenges as AI agents will not only be a primary target of law, but a core user of law and contributor to law. To contend with the advent of superintelligence, lawmakers -- new and old -- will need to be clear-eyed, recognizing both the opportunity to shape legal institutions as society braces for superintelligence and the reality that, in the longer run, this may be a joint human-AI endeavor.