Au-delà de la publication : Considérations sur l'accès aux systèmes d'IA générative

Beyond Release: Access Considerations for Generative AI Systems

February 23, 2025

Auteurs: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask

cs.AI

Résumé

Les décisions de publication des systèmes d'IA générative déterminent si les composants du système sont rendus disponibles, mais la publication ne traite pas de nombreux autres éléments qui influencent la manière dont les utilisateurs et les parties prenantes interagissent avec un système. Au-delà de la publication, l'accès aux composants du système informe sur les risques et les bénéfices potentiels. L'accès fait référence aux besoins pratiques, qu'ils soient infrastructurels, techniques ou sociétaux, nécessaires pour utiliser les composants disponibles d'une certaine manière. Nous décomposons l'accès selon trois axes : les ressources, l'utilisabilité technique et l'utilité. Dans chaque catégorie, un ensemble de variables par composant du système clarifie les compromis. Par exemple, les ressources nécessitent un accès à l'infrastructure informatique pour servir les poids du modèle. Nous comparons également l'accessibilité de quatre modèles de langage à haute performance, deux à poids ouverts et deux à poids fermés, en montrant des considérations similaires pour tous basées sur les variables d'accès. Les variables d'accès établissent les fondements pour pouvoir étendre ou augmenter l'accès aux utilisateurs ; nous examinons l'échelle de l'accès et comment cette échelle affecte la capacité à gérer et à intervenir sur les risques. Ce cadre englobe mieux le paysage et les compromis risques-bénéfices des publications de systèmes, afin d'éclairer les décisions de publication, la recherche et les politiques.

English

Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.