Intelligence Artificielle et Désinformation dans l'Art : Les Modèles de Vision et Langage Peuvent-ils Distinguer la Main de l'Humain de Celle de la Machine derrière la Toile ?

Artificial Intelligence and Misinformation in Art: Can Vision Language Models Judge the Hand or the Machine Behind the Canvas?

August 2, 2025

papers.authors: Tarian Fu, Javier Conde, Gonzalo Martínez, Pedro Reviriego, Elena Merino-Gómez, Fernando Moral

cs.AI

papers.abstract

L'attribution des œuvres d'art en général et des peintures en particulier a toujours été un enjeu dans le domaine de l'art. L'émergence de modèles d'intelligence artificielle puissants capables de générer et d'analyser des images crée de nouveaux défis pour l'attribution des peintures. D'une part, les modèles d'IA peuvent créer des images imitant le style d'un peintre, qui peuvent être incorrectement attribuées, par exemple, par d'autres modèles d'IA. D'autre part, les modèles d'IA peuvent ne pas être capables d'identifier correctement l'artiste pour des peintures réelles, conduisant les utilisateurs à attribuer incorrectement les œuvres. Dans cet article, ces deux problèmes sont étudiés expérimentalement à l'aide de modèles d'IA de pointe pour la génération et l'analyse d'images sur un large ensemble de données comprenant près de 40 000 peintures provenant de 128 artistes. Les résultats montrent que les modèles de vision et de langage ont des capacités limitées pour : 1) réaliser l'attribution de toiles et 2) identifier les images générées par IA. Alors que les utilisateurs s'appuient de plus en plus sur les requêtes aux modèles d'IA pour obtenir des informations, ces résultats montrent la nécessité d'améliorer les capacités des modèles de vision et de langage pour effectuer de manière fiable l'attribution d'artistes et la détection d'images générées par IA, afin de prévenir la propagation d'informations incorrectes.

English

The attribution of artworks in general and of paintings in particular has always been an issue in art. The advent of powerful artificial intelligence models that can generate and analyze images creates new challenges for painting attribution. On the one hand, AI models can create images that mimic the style of a painter, which can be incorrectly attributed, for example, by other AI models. On the other hand, AI models may not be able to correctly identify the artist for real paintings, inducing users to incorrectly attribute paintings. In this paper, both problems are experimentally studied using state-of-the-art AI models for image generation and analysis on a large dataset with close to 40,000 paintings from 128 artists. The results show that vision language models have limited capabilities to: 1) perform canvas attribution and 2) to identify AI generated images. As users increasingly rely on queries to AI models to get information, these results show the need to improve the capabilities of VLMs to reliably perform artist attribution and detection of AI generated images to prevent the spread of incorrect information.