Construindo Confiança: Fundamentos de Segurança, Segurança e Transparência em IA

Building Trust: Foundations of Security, Safety and Transparency in AI

November 19, 2024

Autores: Huzaifa Sidhpurwala, Garth Mollett, Emily Fox, Mark Bestavros, Huamin Chen

cs.AI

Resumo

Este artigo explora o ecossistema em rápida evolução de modelos de IA disponíveis publicamente e suas potenciais implicações na segurança e no cenário de segurança. À medida que os modelos de IA se tornam cada vez mais prevalentes, compreender seus riscos e vulnerabilidades potenciais é crucial. Revisamos os cenários atuais de segurança e segurança, destacando desafios como problemas de rastreamento, remediação e a aparente ausência de processos de ciclo de vida e propriedade de modelos de IA. Estratégias abrangentes para aprimorar a segurança e a segurança tanto para os desenvolvedores de modelos quanto para os usuários finais são propostas. Este artigo tem como objetivo fornecer algumas das peças fundamentais para uma segurança, segurança e transparência mais padronizadas no desenvolvimento e operação de modelos de IA e nos ecossistemas abertos e comunidades maiores que se formam ao seu redor.

English

This paper explores the rapidly evolving ecosystem of publicly available AI models, and their potential implications on the security and safety landscape. As AI models become increasingly prevalent, understanding their potential risks and vulnerabilities is crucial. We review the current security and safety scenarios while highlighting challenges such as tracking issues, remediation, and the apparent absence of AI model lifecycle and ownership processes. Comprehensive strategies to enhance security and safety for both model developers and end-users are proposed. This paper aims to provide some of the foundational pieces for more standardized security, safety, and transparency in the development and operation of AI models and the larger open ecosystems and communities forming around them.