Open-Sourcing hochleistungsfähiger Foundation-Modelle: Eine Bewertung von Risiken, Vorteilen und alternativen Methoden zur Verfolgung von Open-Source-Zielen

Open-Sourcing Highly Capable Foundation Models: An evaluation of risks, benefits, and alternative methods for pursuing open-source objectives

September 29, 2023

Autoren: Elizabeth Seger, Noemi Dreksler, Richard Moulange, Emily Dardaman, Jonas Schuett, K. Wei, Christoph Winter, Mackenzie Arnold, Seán Ó hÉigeartaigh, Anton Korinek, Markus Anderljung, Ben Bucknall, Alan Chan, Eoghan Stafford, Leonie Koessler, Aviv Ovadya, Ben Garfinkel, Emma Bluemke, Michael Aird, Patrick Levermore, Julian Hazell, Abhishek Gupta

cs.AI

Zusammenfassung

Jüngste Entscheidungen führender KI-Labore, ihre Modelle entweder zu open-sourcen oder den Zugang zu ihren Modellen einzuschränken, haben eine Debatte darüber entfacht, ob und wie zunehmend leistungsfähige KI-Modelle geteilt werden sollten. Open-Sourcing in der KI bezieht sich typischerweise darauf, die Modellarchitektur und Gewichte frei und öffentlich zugänglich zu machen, sodass sie von jedem modifiziert, studiert, weiterentwickelt und genutzt werden können. Dies bietet Vorteile wie die Ermöglichung externer Überwachung, die Beschleunigung des Fortschritts und die Dezentralisierung der Kontrolle über die KI-Entwicklung und -Nutzung. Es birgt jedoch auch ein wachsendes Potenzial für Missbrauch und unbeabsichtigte Folgen. Dieses Papier bietet eine Untersuchung der Risiken und Vorteile des Open-Sourcings hochleistungsfähiger Foundation-Modelle. Während Open-Sourcing historisch gesehen erhebliche Netto-Vorteile für die meisten Software- und KI-Entwicklungsprozesse gebracht hat, argumentieren wir, dass für einige hochleistungsfähige Foundation-Modelle, die voraussichtlich in naher Zukunft entwickelt werden, das Open-Sourcing möglicherweise so extreme Risiken birgt, dass sie die Vorteile überwiegen. In einem solchen Fall sollten hochleistungsfähige Foundation-Modelle nicht open-source gemacht werden, zumindest nicht initial. Alternative Strategien, einschließlich nicht-open-source Modell-Sharing-Optionen, werden untersucht. Das Papier schließt mit Empfehlungen für Entwickler, Standardisierungsgremien und Regierungen zur Etablierung sicherer und verantwortungsvoller Modell-Sharing-Praktiken und zur Bewahrung der Vorteile des Open-Sourcings, wo dies sicher ist.

English

Recent decisions by leading AI labs to either open-source their models or to restrict access to their models has sparked debate about whether, and how, increasingly capable AI models should be shared. Open-sourcing in AI typically refers to making model architecture and weights freely and publicly accessible for anyone to modify, study, build on, and use. This offers advantages such as enabling external oversight, accelerating progress, and decentralizing control over AI development and use. However, it also presents a growing potential for misuse and unintended consequences. This paper offers an examination of the risks and benefits of open-sourcing highly capable foundation models. While open-sourcing has historically provided substantial net benefits for most software and AI development processes, we argue that for some highly capable foundation models likely to be developed in the near future, open-sourcing may pose sufficiently extreme risks to outweigh the benefits. In such a case, highly capable foundation models should not be open-sourced, at least not initially. Alternative strategies, including non-open-source model sharing options, are explored. The paper concludes with recommendations for developers, standard-setting bodies, and governments for establishing safe and responsible model sharing practices and preserving open-source benefits where safe.