La Búsqueda de Métricas Confiables para una IA Responsable
The Quest for Reliable Metrics of Responsible AI
October 29, 2025
Autores: Theresia Veronika Rampisela, Maria Maistro, Tuukka Ruotsalo, Christina Lioma
cs.AI
Resumen
El desarrollo de la Inteligencia Artificial (IA), incluida la IA en la Ciencia (IAC), debe realizarse siguiendo los principios de la IA responsable. El progreso en la IA responsable a menudo se cuantifica mediante métricas de evaluación, aunque se ha trabajado menos en evaluar la robustez y fiabilidad de las propias métricas. Reflexionamos sobre trabajos previos que examinan la robustez de las métricas de equidad para los sistemas de recomendación como un tipo de aplicación de IA y resumimos sus conclusiones clave en un conjunto de directrices no exhaustivas para desarrollar métricas fiables de IA responsable. Nuestras directrices son aplicables a un amplio espectro de aplicaciones de IA, incluyendo la IAC.
English
The development of Artificial Intelligence (AI), including AI in Science
(AIS), should be done following the principles of responsible AI. Progress in
responsible AI is often quantified through evaluation metrics, yet there has
been less work on assessing the robustness and reliability of the metrics
themselves. We reflect on prior work that examines the robustness of fairness
metrics for recommender systems as a type of AI application and summarise their
key takeaways into a set of non-exhaustive guidelines for developing reliable
metrics of responsible AI. Our guidelines apply to a broad spectrum of AI
applications, including AIS.