고성능 기초 모델의 오픈소스화: 위험, 이점 및 오픈소스 목표 달성을 위한 대체 방법에 대한 평가
Open-Sourcing Highly Capable Foundation Models: An evaluation of risks, benefits, and alternative methods for pursuing open-source objectives
September 29, 2023
저자: Elizabeth Seger, Noemi Dreksler, Richard Moulange, Emily Dardaman, Jonas Schuett, K. Wei, Christoph Winter, Mackenzie Arnold, Seán Ó hÉigeartaigh, Anton Korinek, Markus Anderljung, Ben Bucknall, Alan Chan, Eoghan Stafford, Leonie Koessler, Aviv Ovadya, Ben Garfinkel, Emma Bluemke, Michael Aird, Patrick Levermore, Julian Hazell, Abhishek Gupta
cs.AI
초록
최근 주요 AI 연구소들이 모델을 오픈소스화하거나 접근을 제한하는 결정을 내리면서, 점점 더 강력해지는 AI 모델을 어떻게 공유해야 하는지에 대한 논쟁이 촉발되었습니다. AI에서의 오픈소스화는 일반적으로 모델 아키텍처와 가중치를 누구나 수정, 연구, 구축 및 사용할 수 있도록 자유롭게 공개하는 것을 의미합니다. 이는 외부 감독을 가능하게 하고, 진전을 가속화하며, AI 개발과 사용에 대한 통제를 분산시키는 등의 장점을 제공합니다. 그러나 동시에 오용과 의도하지 않은 결과를 초래할 가능성도 점점 커지고 있습니다. 본 논문은 매우 강력한 기초 모델(foundation model)을 오픈소스화할 때의 위험과 이점을 검토합니다. 오픈소스화가 역사적으로 대부분의 소프트웨어 및 AI 개발 과정에서 상당한 순이익을 제공해 왔지만, 가까운 미래에 개발될 가능성이 있는 일부 매우 강력한 기초 모델의 경우, 오픈소스화가 이점을 상쇄할 만큼 극단적인 위험을 초래할 수 있다고 주장합니다. 이러한 경우, 매우 강력한 기초 모델은 적어도 초기에는 오픈소스화되어서는 안 됩니다. 대안 전략으로, 비오픈소스 모델 공유 옵션 등이 탐구됩니다. 논문은 개발자, 표준 설정 기관, 정부가 안전하고 책임 있는 모델 공유 관행을 수립하고, 안전한 경우 오픈소스의 이점을 보존하기 위한 권장 사항으로 마무리됩니다.
English
Recent decisions by leading AI labs to either open-source their models or to
restrict access to their models has sparked debate about whether, and how,
increasingly capable AI models should be shared. Open-sourcing in AI typically
refers to making model architecture and weights freely and publicly accessible
for anyone to modify, study, build on, and use. This offers advantages such as
enabling external oversight, accelerating progress, and decentralizing control
over AI development and use. However, it also presents a growing potential for
misuse and unintended consequences. This paper offers an examination of the
risks and benefits of open-sourcing highly capable foundation models. While
open-sourcing has historically provided substantial net benefits for most
software and AI development processes, we argue that for some highly capable
foundation models likely to be developed in the near future, open-sourcing may
pose sufficiently extreme risks to outweigh the benefits. In such a case,
highly capable foundation models should not be open-sourced, at least not
initially. Alternative strategies, including non-open-source model sharing
options, are explored. The paper concludes with recommendations for developers,
standard-setting bodies, and governments for establishing safe and responsible
model sharing practices and preserving open-source benefits where safe.