Construyendo Confianza: Fundamentos de Seguridad, Seguridad y Transparencia en IA

Building Trust: Foundations of Security, Safety and Transparency in AI

November 19, 2024

Autores: Huzaifa Sidhpurwala, Garth Mollett, Emily Fox, Mark Bestavros, Huamin Chen

cs.AI

Resumen

Este documento explora el ecosistema en rápida evolución de modelos de IA disponibles públicamente, y sus posibles implicaciones en el panorama de seguridad. A medida que los modelos de IA se vuelven cada vez más comunes, comprender sus riesgos y vulnerabilidades potenciales es crucial. Revisamos los escenarios actuales de seguridad y seguridad, destacando desafíos como problemas de seguimiento, remedios y la aparente ausencia de procesos de ciclo de vida y propiedad de modelos de IA. Se proponen estrategias integrales para mejorar la seguridad y la seguridad tanto para los desarrolladores de modelos como para los usuarios finales. Este documento tiene como objetivo proporcionar algunas de las piezas fundamentales para una mayor estandarización de la seguridad, la seguridad y la transparencia en el desarrollo y operación de modelos de IA y los ecosistemas y comunidades abiertas más amplias que se están formando en torno a ellos.

English

This paper explores the rapidly evolving ecosystem of publicly available AI models, and their potential implications on the security and safety landscape. As AI models become increasingly prevalent, understanding their potential risks and vulnerabilities is crucial. We review the current security and safety scenarios while highlighting challenges such as tracking issues, remediation, and the apparent absence of AI model lifecycle and ownership processes. Comprehensive strategies to enhance security and safety for both model developers and end-users are proposed. This paper aims to provide some of the foundational pieces for more standardized security, safety, and transparency in the development and operation of AI models and the larger open ecosystems and communities forming around them.