AIエージェントの規制

要旨

AIエージェント――限定的な人間の監督のみで複雑な目標を追求するために自律的に行動できるシステム――は主流となった。これらのシステムは現在、ソフトウェアの開発、ビジネス活動の遂行、日常的な個人のタスクの自動化に広く利用されている。AIエージェントは、代理法や契約から不法行為責任や労働法に至るまで、法律の多くの分野に関わるが、特に差し迫った課題を提起しているのは、世界的に最も影響力のあるAI規制である欧州連合（EU）のAI法（AI Act）に対する対応である。AIエージェントの開発と普及以前に公布されたEU AI法は、自律的なタスク実行における性能不全、悪意のある行為者によるエージェントの悪用リスク、AIエージェントがもたらす経済的機会への不平等なアクセスといった、この革新的技術から生じるガバナンスの課題に直面する際、重大な障壁に直面している。本稿では、規制の実体的規定と、極めて重要であるその実施を支えることを目的とした制度的枠組みの両方に焦点を当て、これらの課題に対するEU AI法の対応を体系的に分析する。本法におけるモニタリングと執行の責任分配、業界の自主規制への依存、政府リソースの水準に関する我々の分析は、従来のAIシステム向けに設計された規制枠組みがAIエージェントには不向きであることを示している。総合すると、我々の分析結果は、EU及びその他の地域の政策立案者が、次世代AI技術を効果的に統治するためには、方針を転換する必要があり、かつ早急にそうする必要があることを示唆している。

English

AI agents -- systems that can independently take actions to pursue complex goals with only limited human oversight -- have entered the mainstream. These systems are now being widely used to produce software, conduct business activities, and automate everyday personal tasks. While AI agents implicate many areas of law, ranging from agency law and contracts to tort liability and labor law, they present particularly pressing questions for the most globally consequential AI regulation: the European Union's AI Act. Promulgated prior to the development and widespread use of AI agents, the EU AI Act faces significant obstacles in confronting the governance challenges arising from this transformative technology, such as performance failures in autonomous task execution, the risk of misuse of agents by malicious actors, and unequal access to the economic opportunities afforded by AI agents. We systematically analyze the EU AI Act's response to these challenges, focusing on both the substantive provisions of the regulation and, crucially, the institutional frameworks that aim to support its implementation. Our analysis of the Act's allocation of monitoring and enforcement responsibilities, reliance on industry self-regulation, and level of government resourcing illustrates how a regulatory framework designed for conventional AI systems can be ill-suited to AI agents. Taken together, our findings suggest that policymakers in the EU and beyond will need to change course, and soon, if they are to effectively govern the next generation of AI technology.

AIエージェントの規制

Regulating AI Agents

要旨

Support