Superintelligenz und Recht
Superintelligence and Law
March 30, 2026
Autoren: Noam Kolt
cs.AI
Zusammenfassung
Die Aussicht auf künstliche Superintelligenz – KI-Agenten, die Menschen bei kognitiven Aufgaben und wirtschaftlich wertvollen Tätigkeiten generell übertreffen können – wird die Rechtsordnung, wie wir sie kennen, grundlegend verändern. Autonom oder unter nur begrenzter menschlicher Aufsicht operierend, werden KI-Agenten eine wachsende Bandbreite von Rollen im Rechtssystem übernehmen. Erstens werden KI-Agenten durch das Treffen folgenreicher Entscheidungen und das Setzen realer Handlungen zu de facto Rechtssubjekten. Zweitens werden KI-Agenten, um mit anderen Akteuren (menschlich oder nicht-menschlich) zu kooperieren und zu konkurrieren, konventionelle Rechtsinstrumente und -institutionen wie Verträge und Gerichte nutzen und so zu Konsumenten des Rechts werden. Drittens werden KI-Agenten, soweit sie Funktionen der Rechtsetzung, -auslegung und -durchsetzung übernehmen, zu Produzenten und Vollstreckern des Rechts. Diese Entwicklungen, wann immer sie letztlich eintreten, werden grundlegende Annahmen in der Rechtstheorie und -dogmatik in Frage stellen, insbesondere soweit diese die Legitimität von Rechtsinstitutionen in ihrem menschlichen Ursprung begründen. Versuche, KI-Agenten mit dem bestehenden menschlichen Recht in Einklang zu bringen, werden ebenfalls vor neuen Herausforderungen stehen, da KI-Agenten nicht nur ein primäres Ziel des Rechts sein werden, sondern auch ein zentraler Nutzer des Rechts und ein Mitgestalter des Rechts. Um mit dem Aufkommen der Superintelligenz fertig zu werden, müssen Gesetzgeber – alte und neue – nüchtern bleiben und sowohl die Chance erkennen, Rechtsinstitutionen zu gestalten, während sich die Gesellschaft auf die Superintelligenz vorbereitet, als auch die Realität, dass dies auf längere Sicht ein gemeinsames menschlich-KI-Unterfangen sein könnte.
English
The prospect of artificial superintelligence -- AI agents that can generally outperform humans in cognitive tasks and economically valuable activities -- will transform the legal order as we know it. Operating autonomously or under only limited human oversight, AI agents will assume a growing range of roles in the legal system. First, in making consequential decisions and taking real-world actions, AI agents will become de facto subjects of law. Second, to cooperate and compete with other actors (human or non-human), AI agents will harness conventional legal instruments and institutions such as contracts and courts, becoming consumers of law. Third, to the extent AI agents perform the functions of writing, interpreting, and administering law, they will become producers and enforcers of law. These developments, whenever they ultimately occur, will call into question fundamental assumptions in legal theory and doctrine, especially to the extent they ground the legitimacy of legal institutions in their human origins. Attempts to align AI agents with extant human law will also face new challenges as AI agents will not only be a primary target of law, but a core user of law and contributor to law. To contend with the advent of superintelligence, lawmakers -- new and old -- will need to be clear-eyed, recognizing both the opportunity to shape legal institutions as society braces for superintelligence and the reality that, in the longer run, this may be a joint human-AI endeavor.