Superintelligentie en Recht

Superintelligence and Law

March 30, 2026

Auteurs: Noam Kolt

cs.AI

Samenvatting

Het vooruitzicht van kunstmatige superintelligentie – AI-agenten die mensen over het algemeen kunnen overtreffen in cognitieve taken en economisch waardevolle activiteiten – zal de rechtsorde zoals wij die kennen ingrijpend veranderen. AI-agenten, die autonoom opereren of onder slechts beperkt menselijk toezicht, zullen een groeiend aantal rollen in het rechtssysteem gaan vervullen. Ten eerste zullen AI-agenten door het nemen van ingrijpende beslissingen en het ondernemen van acties in de echte wereld de facto rechtssubjecten worden. Ten tweede zullen AI-agenten, om samen te werken en te concurreren met andere actoren (menselijk of niet-menselijk), conventionele juridische instrumenten en instituties zoals contracten en rechtbanken gaan benutten, waardoor zij consumenten van recht worden. Ten derde zullen AI-agenten, voor zover zij functies vervullen zoals het schrijven, interpreteren en toepassen van wetgeving, producenten en handhavers van recht worden. Deze ontwikkelingen, wanneer zij zich uiteindelijk voordoen, zullen fundamentele veronderstellingen in de rechtsleer en rechtstheorie in twijfel trekken, vooral voor zover deze de legitimiteit van juridische instituties grondvesten in hun menselijke oorsprong. Pogingen om AI-agenten af te stemmen op het bestaande menselijke recht zullen eveneens voor nieuwe uitdagingen komen te staan, aangezien AI-agenten niet alleen een primair doelwit van het recht zullen zijn, maar ook een kerngebruiker van en een bijdrager aan het recht. Om het tijdperk van superintelligentie het hoofd te bieden, zullen wetgevers – zowel nieuwe als traditionele – helderziend moeten zijn: zij moeten zowel de kans onderkennen om juridische instituties vorm te geven terwijl de samenleving zich opmaakt voor superintelligentie, als de realiteit dat dit op de lange termijn een gezamenlijke mens-AI-inspanning kan worden.

English

The prospect of artificial superintelligence -- AI agents that can generally outperform humans in cognitive tasks and economically valuable activities -- will transform the legal order as we know it. Operating autonomously or under only limited human oversight, AI agents will assume a growing range of roles in the legal system. First, in making consequential decisions and taking real-world actions, AI agents will become de facto subjects of law. Second, to cooperate and compete with other actors (human or non-human), AI agents will harness conventional legal instruments and institutions such as contracts and courts, becoming consumers of law. Third, to the extent AI agents perform the functions of writing, interpreting, and administering law, they will become producers and enforcers of law. These developments, whenever they ultimately occur, will call into question fundamental assumptions in legal theory and doctrine, especially to the extent they ground the legitimacy of legal institutions in their human origins. Attempts to align AI agents with extant human law will also face new challenges as AI agents will not only be a primary target of law, but a core user of law and contributor to law. To contend with the advent of superintelligence, lawmakers -- new and old -- will need to be clear-eyed, recognizing both the opportunity to shape legal institutions as society braces for superintelligence and the reality that, in the longer run, this may be a joint human-AI endeavor.