Superintelligence et Droit

Superintelligence and Law

March 30, 2026

Auteurs: Noam Kolt

cs.AI

Résumé

La perspective d'une superintelligence artificielle – des agents d'IA capables de surpasser généralement les humains dans les tâches cognitives et les activités à valeur économique – transformera l'ordre juridique tel que nous le connaissons. Fonctionnant de manière autonome ou sous seulement un contrôle humain limité, les agents d'IA assumeront un éventail croissant de rôles dans le système juridique. Premièrement, en prenant des décisions importantes et en menant des actions dans le monde réel, les agents d'IA deviendront des sujets de droit de facto. Deuxièmement, pour coopérer et rivaliser avec d'autres acteurs (humains ou non humains), les agents d'IA utiliseront les instruments et institutions juridiques conventionnels tels que les contrats et les tribunaux, devenant ainsi des consommateurs de droit. Troisièmement, dans la mesure où les agents d'IA rempliront les fonctions de rédaction, d'interprétation et d'administration du droit, ils en deviendront les producteurs et les exécutants. Ces évolutions, où qu'elles se produisent in fine, remettront en question des hypothèses fondamentales de la théorie et de la doctrine juridiques, en particulier dans la mesure où elles fondent la légitimité des institutions juridiques sur leurs origines humaines. Les tentatives d'aligner les agents d'IA sur le droit humain existant seront également confrontées à de nouveaux défis, car les agents d'IA ne seront pas seulement une cible principale du droit, mais aussi un utilisateur central et un contributeur au droit. Pour faire face à l'avènement de la superintelligence, les législateurs – nouveaux et anciens – devront faire preuve de lucidité, en reconnaissant à la fois l'opportunité de façonner les institutions juridiques alors que la société se prépare à la superintelligence et la réalité que, à plus long terme, cela pourrait être un effort conjoint humain-IA.

English

The prospect of artificial superintelligence -- AI agents that can generally outperform humans in cognitive tasks and economically valuable activities -- will transform the legal order as we know it. Operating autonomously or under only limited human oversight, AI agents will assume a growing range of roles in the legal system. First, in making consequential decisions and taking real-world actions, AI agents will become de facto subjects of law. Second, to cooperate and compete with other actors (human or non-human), AI agents will harness conventional legal instruments and institutions such as contracts and courts, becoming consumers of law. Third, to the extent AI agents perform the functions of writing, interpreting, and administering law, they will become producers and enforcers of law. These developments, whenever they ultimately occur, will call into question fundamental assumptions in legal theory and doctrine, especially to the extent they ground the legitimacy of legal institutions in their human origins. Attempts to align AI agents with extant human law will also face new challenges as AI agents will not only be a primary target of law, but a core user of law and contributor to law. To contend with the advent of superintelligence, lawmakers -- new and old -- will need to be clear-eyed, recognizing both the opportunity to shape legal institutions as society braces for superintelligence and the reality that, in the longer run, this may be a joint human-AI endeavor.