출시 이후: 생성형 AI 시스템을 위한 접근성 고려사항

Beyond Release: Access Considerations for Generative AI Systems

February 23, 2025

저자: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask

cs.AI

초록

생성형 AI 출시 결정은 시스템 구성 요소를 공개할지 여부를 결정하지만, 출시만으로는 사용자와 이해관계자가 시스템과 상호작용하는 방식을 변화시키는 많은 다른 요소들을 다루지 못합니다. 출시를 넘어서, 시스템 구성 요소에 대한 접근은 잠재적인 위험과 이점을 알려줍니다. 접근이란, 사용 가능한 구성 요소를 어떤 방식으로든 활용하기 위해 실질적으로 필요한 자원, 기술적, 사회적 인프라를 의미합니다. 우리는 접근을 세 가지 축으로 분해합니다: 자원 조달, 기술적 사용성, 그리고 유용성. 각 범주 내에서, 시스템 구성 요소별로 일련의 변수들이 트레이드오프를 명확히 합니다. 예를 들어, 자원 조달은 모델 가중치를 제공하기 위한 컴퓨팅 인프라에 대한 접근을 필요로 합니다. 또한, 우리는 두 개의 오픈 가중치와 두 개의 클로즈드 가중치 고성능 언어 모델의 접근성을 비교하며, 접근 변수에 기반하여 모든 모델에 대해 유사한 고려 사항이 적용됨을 보여줍니다. 접근 변수는 사용자에게 접근을 확장하거나 증가시킬 수 있는 기반을 마련합니다; 우리는 접근의 규모와 그 규모가 위험을 관리하고 개입하는 능력에 미치는 영향을 검토합니다. 이 프레임워크는 시스템 출시의 전반적인 상황과 위험-이익 트레이드오프를 더 잘 포괄하여 시스템 출시 결정, 연구, 정책에 정보를 제공합니다.

English

Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.