La quête de métriques fiables pour une IA responsable
The Quest for Reliable Metrics of Responsible AI
October 29, 2025
papers.authors: Theresia Veronika Rampisela, Maria Maistro, Tuukka Ruotsalo, Christina Lioma
cs.AI
papers.abstract
Le développement de l'intelligence artificielle (IA), y compris l'IA en science (IAS), doit suivre les principes de l'IA responsable. Les progrès en matière d'IA responsable sont souvent quantifiés par des métriques d'évaluation, mais peu de travaux ont porté sur l'évaluation de la robustesse et de la fiabilité de ces métriques elles-mêmes. Nous examinons les travaux antérieurs ayant étudié la robustesse des métriques d'équité pour les systèmes de recommandation en tant qu'application de l'IA, et synthétisons leurs principaux enseignements en un ensemble non exhaustif de lignes directrices pour développer des métriques fiables de l'IA responsable. Nos lignes directrices s'appliquent à un large spectre d'applications de l'IA, y compris l'IAS.
English
The development of Artificial Intelligence (AI), including AI in Science
(AIS), should be done following the principles of responsible AI. Progress in
responsible AI is often quantified through evaluation metrics, yet there has
been less work on assessing the robustness and reliability of the metrics
themselves. We reflect on prior work that examines the robustness of fairness
metrics for recommender systems as a type of AI application and summarise their
key takeaways into a set of non-exhaustive guidelines for developing reliable
metrics of responsible AI. Our guidelines apply to a broad spectrum of AI
applications, including AIS.