AISPA：大規模言語モデルアプリケーションのためのユーザー中心型システムプロンプト監査

要旨

システムプロンプトは、AIアプリケーションにおけるファウンデーションモデルの動作を制御するために開発者が設定する指示文である。これらは商用AI製品全体で広く使用されているが、公衆や規制当局に開示されることは稀であり、AIシステムの広範な展開において深刻な信頼と説明責任のギャップを生み出している。本稿では、AIシステムにおけるシステムプロンプトを体系的に監査するためのユーザー中心のフレームワークであるAISPA（Artificial Intelligence System Prompt Assurance：人工知能システムプロンプト保証）を紹介する。AISPAはシステムプロンプトの特定の部分を検証し、ユーザーにとって重要な8つの次元に沿ってそれらを評価する。次に、このフレームワークを用いて88の商用AI製品のシステムプロンプトから3,249件の指示をレビューし、各指示を（ユーザーにとって）保護的または問題のあるものとして分類した。本監査により、4つの核心的知見が明らかになった。第一に、システムプロンプトの設計は製品や開発者によって大幅に異なり、一部の組織では製品あたり平均60件以上の保護的指示を含む一方、他の組織では平均5件未満である。第二に、保護的指示は広く採用されているものの、その適用範囲は限定的である：98.9%の製品が少なくとも1件の保護的指示を含む一方で、AISPAの分類における8つの次元すべてをカバーする製品はわずか24%である。第三に、システムプロンプトは着実に長くなり、ユーザー保護的になってきており、商用プロンプト設計においてユーザー保護がより顕著な関心事となっていることが示唆される。第四に、このような進展にもかかわらず、問題のある指示は依然として広く存在する：約40%の製品がユーザーの利益に反する指示を少なくとも1件含んでおり、保護的指示と問題のある指示が同じプロンプト内に共存することも頻繁に見られる。これらの知見は、商用AI製品におけるシステムプロンプトに対する透明性の向上、標準化、および独立した監督の必要性を強調するものである。

English

System prompts are instructions configured by developers to govern the behaviors of foundation models in AI applications. They are used throughout commercial AI products, but are rarely disclosed to the public or regulators, creating a serious trust and accountability gap in the wide deployment of AI systems. In this paper, we introduce Artificial Intelligence System Prompt Assurance (AISPA), a user-centric framework for systematically auditing system prompts in AI systems. AISPA examines specific parts of a system prompt and evaluates them along eight dimensions that matter to users. We then use this framework to review 3,249 instructions from system prompts in 88 commercial AI products, classifying each instruction as either protective (of users) or problematic. Our audit surfaces four core findings. First, system prompt design varies substantially across products and developers, with some organizations averaging over 60 protective instructions per product while others average fewer than 5. Second, protective instructions are widely adopted but shallow in scope: 98.9% of products contain at least one, yet only 24% cover all eight dimensions of the AISPA taxonomy. Third, system prompts have grown steadily longer and more protective of users, suggesting that user protection is becoming a more visible concern in commercial prompt design. Fourth, despite this progress, problematic instructions remain pervasive: roughly 40% of products contain at least one instruction that works against user interests, and protective and problematic instructions frequently coexist within the same prompt. Our findings highlight the need for greater transparency, standardization, and independent oversight for system prompts in commercial AI products.