リリースを超えて：生成AIシステムのアクセスに関する考察

Beyond Release: Access Considerations for Generative AI Systems

February 23, 2025

著者: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask

cs.AI

要旨

生成AIのリリース判断は、システムコンポーネントを利用可能にするかどうかを決定するが、リリースだけでは、ユーザーやステークホルダーがシステムと関わる方法を変える他の多くの要素には対応していない。リリースを超えて、システムコンポーネントへのアクセスは、潜在的なリスクと利益を示す。アクセスとは、利用可能なコンポーネントを何らかの形で使用するために、資源的、技術的、社会的に必要な実用的な要件を指す。我々はアクセスを、リソース、技術的な使用性、有用性という3つの軸に分解する。各カテゴリー内で、システムコンポーネントごとの一連の変数がトレードオフを明確にする。例えば、リソースには、モデルの重みを提供するための計算インフラへのアクセスが必要である。また、2つのオープンウェイトと2つのクローズドウェイトの高性能言語モデルのアクセシビリティを比較し、アクセス変数に基づいてすべてのモデルに同様の考慮事項があることを示す。アクセス変数は、ユーザーへのアクセスを拡大または増加させるための基盤を設定する。我々はアクセスの規模と、その規模がリスクの管理と介入の能力にどのように影響するかを検討する。このフレームワークは、システムリリースの状況とリスクと利益のトレードオフをより包括的に捉え、システムリリースの判断、研究、および政策に情報を提供する。

English

Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.