高度に能力のある基盤モデルのオープンソース化：リスクと利点の評価、およびオープンソース目標を追求するための代替手法

Open-Sourcing Highly Capable Foundation Models: An evaluation of risks, benefits, and alternative methods for pursuing open-source objectives

September 29, 2023

著者: Elizabeth Seger, Noemi Dreksler, Richard Moulange, Emily Dardaman, Jonas Schuett, K. Wei, Christoph Winter, Mackenzie Arnold, Seán Ó hÉigeartaigh, Anton Korinek, Markus Anderljung, Ben Bucknall, Alan Chan, Eoghan Stafford, Leonie Koessler, Aviv Ovadya, Ben Garfinkel, Emma Bluemke, Michael Aird, Patrick Levermore, Julian Hazell, Abhishek Gupta

cs.AI

要旨

主要なAI研究所が、自社のモデルをオープンソース化するか、あるいはアクセスを制限するかという最近の決定は、ますます高度なAIモデルをどのように共有すべきかについての議論を引き起こしている。AIにおけるオープンソース化とは、通常、モデルのアーキテクチャと重みを誰でも自由に修正、研究、構築、使用できるように公開することを指す。これにより、外部からの監視が可能になり、進歩が加速し、AIの開発と使用に対する管理が分散されるといった利点がある。しかし、同時に、悪用や予期せぬ結果を招く可能性も高まっている。本論文では、高度な基盤モデルをオープンソース化することのリスクと利点を検討する。オープンソース化は、これまでのほとんどのソフトウェアおよびAI開発プロセスにおいて、実質的な純利益をもたらしてきたが、近い将来に開発される可能性のある一部の高度な基盤モデルについては、オープンソース化が利点を上回る極端なリスクをもたらす可能性があると主張する。そのような場合、高度な基盤モデルは、少なくとも最初の段階では、オープンソース化すべきではない。非オープンソースのモデル共有オプションを含む代替戦略を探る。本論文は、開発者、標準設定機関、および政府に対して、安全で責任あるモデル共有の実践を確立し、安全な範囲でオープンソースの利点を維持するための提言で締めくくられる。

English

Recent decisions by leading AI labs to either open-source their models or to restrict access to their models has sparked debate about whether, and how, increasingly capable AI models should be shared. Open-sourcing in AI typically refers to making model architecture and weights freely and publicly accessible for anyone to modify, study, build on, and use. This offers advantages such as enabling external oversight, accelerating progress, and decentralizing control over AI development and use. However, it also presents a growing potential for misuse and unintended consequences. This paper offers an examination of the risks and benefits of open-sourcing highly capable foundation models. While open-sourcing has historically provided substantial net benefits for most software and AI development processes, we argue that for some highly capable foundation models likely to be developed in the near future, open-sourcing may pose sufficiently extreme risks to outweigh the benefits. In such a case, highly capable foundation models should not be open-sourced, at least not initially. Alternative strategies, including non-open-source model sharing options, are explored. The paper concludes with recommendations for developers, standard-setting bodies, and governments for establishing safe and responsible model sharing practices and preserving open-source benefits where safe.