Além do Lançamento: Considerações sobre Acesso para Sistemas de IA Generativa

Beyond Release: Access Considerations for Generative AI Systems

February 23, 2025

Autores: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask

cs.AI

Resumo

As decisões de lançamento de IA generativa determinam se os componentes do sistema são disponibilizados, mas o lançamento não aborda muitos outros elementos que alteram como usuários e partes interessadas podem interagir com um sistema. Além do lançamento, o acesso aos componentes do sistema informa sobre os riscos e benefícios potenciais. O acesso refere-se às necessidades práticas, tanto em termos de infraestrutura, técnica e sociedade, para utilizar os componentes disponíveis de alguma forma. Desconstruímos o acesso ao longo de três eixos: recursos, usabilidade técnica e utilidade. Dentro de cada categoria, um conjunto de variáveis por componente do sistema esclarece as compensações envolvidas. Por exemplo, os recursos exigem acesso à infraestrutura de computação para disponibilizar os pesos do modelo. Também comparamos a acessibilidade de quatro modelos de linguagem de alto desempenho, dois com pesos abertos e dois com pesos fechados, mostrando considerações semelhantes para todos, mas baseadas em variáveis de acesso. As variáveis de acesso estabelecem a base para a capacidade de escalar ou aumentar o acesso aos usuários; examinamos a escala de acesso e como essa escala afeta a capacidade de gerenciar e intervir nos riscos. Esse framework abrange melhor o cenário e as compensações de risco-benefício dos lançamentos de sistemas, informando decisões de lançamento, pesquisas e políticas relacionadas.

English

Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.