Über die Veröffentlichung hinaus: Zugriffsüberlegungen für generative KI-Systeme

Beyond Release: Access Considerations for Generative AI Systems

February 23, 2025

Autoren: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask

cs.AI

Zusammenfassung

Die Entscheidungen zur Freigabe von Generative KI bestimmen, ob Systemkomponenten verfügbar gemacht werden, aber die Freigabe betrifft viele andere Elemente nicht, die beeinflussen, wie Benutzer und Interessengruppen mit einem System interagieren können. Über die Freigabe hinaus informiert der Zugang zu Systemkomponenten über potenzielle Risiken und Vorteile. Zugang bezieht sich auf praktische Bedürfnisse, infrastrukturell, technisch und gesellschaftlich, um verfügbare Komponenten auf irgendeine Weise zu nutzen. Wir zerlegen den Zugang entlang von drei Achsen: Ressourcenbereitstellung, technische Benutzerfreundlichkeit und Nützlichkeit. Innerhalb jeder Kategorie klärt eine Reihe von Variablen pro Systemkomponente die Kompromisse. Zum Beispiel erfordert die Ressourcenbereitstellung Zugang zur Recheninfrastruktur, um Modellgewichte zu bedienen. Wir vergleichen auch die Zugänglichkeit von vier Hochleistungs-Sprachmodellen, zwei offene Gewichte und zwei geschlossene Gewichte, die basierend auf Zugriffsvariablen ähnliche Überlegungen zeigen. Zugriffsvariablen bilden die Grundlage dafür, den Zugang für Benutzer zu skalieren oder zu erhöhen; wir untersuchen den Umfang des Zugangs und wie der Umfang die Fähigkeit beeinflusst, Risiken zu managen und einzugreifen. Dieser Rahmen umfasst besser die Landschaft und die Risiko-Nutzen-Abwägungen von Systemfreigaben, um Entscheidungen zur Systemfreigabe, Forschung und Politik zu informieren.

English

Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.