安全で倫理的なAIのための法的整合性

Legal Alignment for Safe and Ethical AI

January 7, 2026

著者: Noam Kolt, Nicholas Caputo, Jack Boeglin, Cullen O'Keefe, Rishi Bommasani, Stephen Casper, Mariano-Florentino Cuéllar, Noah Feldman, Iason Gabriel, Gillian K. Hadfield, Lewis Hammond, Peter Henderson, Atoosa Kasirzadeh, Seth Lazar, Anka Reuel, Kevin L. Wei, Jonathan Zittrain

cs.AI

要旨

人工知能（AI）のアラインメントは、AIシステムがどのように行動すべきかを規定する規範的問題と、AIシステムがそれらの規定に従うことを保証する技術的問題を含む。これまでAIアラインメント研究は、これらの問題に取り組むための重要な知識と実践の源泉である「法」を概ね看過してきた。本稿では、法的規則・原理・方法論を活用してアラインメント問題に対処し、安全かつ倫理的に動作するAIシステムの設計に資する方途を探ることで、この隔たりを埋めることを目的とする。この新興分野──「法的アラインメント」──は、以下の三つの研究方向に焦点を当てる。(1)正当な制度と手続きを通じて形成された法的規則の内容に準拠するAIシステムの設計、(2)法的解釈の方法論を応用し、AIシステムの推論及び意思決定を導く方策の構築、(3)信頼性・信頼・協調に関するAIシステムの課題に対処するための構造的枠組みとしての法概念の活用。これらの研究方向は、特定のAIシステムが従うべき法体系の特定、実環境における法的順守性を評価する測定手法の開発、法的アラインメント実装を支えるガバナンス枠組みの構築といった、新たな概念的・実証的・制度的課題を提起する。これらの課題に取り組むには、法学、計算機科学、その他学問領域に跨る専門性が求められ、より良きAIを設計するための学際的協働の機会をこれらの学術コミュニティに提供するものである。

English

Alignment of artificial intelligence (AI) encompasses the normative problem of specifying how AI systems should act and the technical problem of ensuring AI systems comply with those specifications. To date, AI alignment has generally overlooked an important source of knowledge and practice for grappling with these problems: law. In this paper, we aim to fill this gap by exploring how legal rules, principles, and methods can be leveraged to address problems of alignment and inform the design of AI systems that operate safely and ethically. This emerging field -- legal alignment -- focuses on three research directions: (1) designing AI systems to comply with the content of legal rules developed through legitimate institutions and processes, (2) adapting methods from legal interpretation to guide how AI systems reason and make decisions, and (3) harnessing legal concepts as a structural blueprint for confronting challenges of reliability, trust, and cooperation in AI systems. These research directions present new conceptual, empirical, and institutional questions, which include examining the specific set of laws that particular AI systems should follow, creating evaluations to assess their legal compliance in real-world settings, and developing governance frameworks to support the implementation of legal alignment in practice. Tackling these questions requires expertise across law, computer science, and other disciplines, offering these communities the opportunity to collaborate in designing AI for the better.