Regulierung von KI-Agenten
Regulating AI Agents
March 24, 2026
Autoren: Kathrin Gardhouse, Amin Oueslati, Noam Kolt
cs.AI
Zusammenfassung
KI-Agenten – Systeme, die eigenständig Handlungen zur Verfolgung komplexer Ziele mit nur begrenzter menschlicher Aufsicht ausführen können – sind im Mainstream angekommen. Diese Systeme werden heute breit eingesetzt, um Software zu produzieren, Geschäftsaktivitäten durchzuführen und alltägliche persönliche Aufgaben zu automatisieren. Obwohl KI-Agenten viele Rechtsgebiete berühren, vom Stellvertretungsrecht und Vertragsrecht über die Deliktshaftung bis hin zum Arbeitsrecht, werfen sie besonders dringliche Fragen für die global bedeutsamste KI-Regulierung auf: den KI-Verordnungsentwurf der Europäischen Union. Der EU-KI-Verordnungsentwurf, der vor der Entwicklung und Verbreitung von KI-Agenten verabschiedet wurde, sieht sich erheblichen Hindernissen gegenüber, wenn es darum geht, die Governance-Herausforderungen dieser transformativen Technologie zu bewältigen, wie etwa Leistungsversagen bei der autonomen Aufgabenerfüllung, das Risiko des Missbrauchs von Agenten durch böswillige Akteure und ungleicher Zugang zu den wirtschaftlichen Chancen, die KI-Agenten bieten. Wir analysieren systematisch die Reaktion des EU-KI-Verordnungsentwurfs auf diese Herausforderungen, wobei wir uns sowohl auf die materiellen Bestimmungen der Verordnung als auch, entscheidend, auf die institutionellen Rahmenwerke konzentrieren, die deren Umsetzung unterstützen sollen. Unsere Analyse der Zuteilung von Überwachungs- und Durchsetzungsverantwortlichkeiten, der Abhängigkeit von brancheninterner Selbstregulierung und der Höhe der staatlichen Ressourcenausstattung im Verordnungsentwurf zeigt, wie ein Regulierungsrahmen, der für konventionelle KI-Systeme konzipiert wurde, für KI-Agenten ungeeignet sein kann. Insgesamt legen unsere Erkenntnisse nahe, dass politische Entscheidungsträger in der EU und anderswo ihren Kurs ändern müssen – und zwar bald –, wenn sie die nächste Generation der KI-Technologie effektiv regulieren wollen.
English
AI agents -- systems that can independently take actions to pursue complex goals with only limited human oversight -- have entered the mainstream. These systems are now being widely used to produce software, conduct business activities, and automate everyday personal tasks. While AI agents implicate many areas of law, ranging from agency law and contracts to tort liability and labor law, they present particularly pressing questions for the most globally consequential AI regulation: the European Union's AI Act. Promulgated prior to the development and widespread use of AI agents, the EU AI Act faces significant obstacles in confronting the governance challenges arising from this transformative technology, such as performance failures in autonomous task execution, the risk of misuse of agents by malicious actors, and unequal access to the economic opportunities afforded by AI agents. We systematically analyze the EU AI Act's response to these challenges, focusing on both the substantive provisions of the regulation and, crucially, the institutional frameworks that aim to support its implementation. Our analysis of the Act's allocation of monitoring and enforcement responsibilities, reliance on industry self-regulation, and level of government resourcing illustrates how a regulatory framework designed for conventional AI systems can be ill-suited to AI agents. Taken together, our findings suggest that policymakers in the EU and beyond will need to change course, and soon, if they are to effectively govern the next generation of AI technology.