Généralisation actuelle et future des détecteurs d'images synthétiques

Present and Future Generalization of Synthetic Image Detectors

September 21, 2024

Auteurs: Pablo Bernabeu-Perez, Enrique Lopez-Cuena, Dario Garcia-Gasulla

cs.AI

Résumé

La sortie continue de nouveaux et meilleurs modèles de génération d'images accroît la demande de détecteurs d'images synthétiques. Dans un domaine aussi dynamique, les détecteurs doivent être capables de généraliser largement et de résister aux altérations non contrôlées. Ce travail est motivé par ce contexte, en examinant le rôle du temps, des transformations d'images et des sources de données, pour la généralisation des détecteurs. Dans ces expériences, aucun des détecteurs évalués n'est trouvé universel, mais les résultats indiquent qu'un ensemble pourrait l'être. Les expériences sur des données collectées dans la nature montrent que cette tâche est plus difficile que celle définie par des ensembles de données à grande échelle, soulignant un écart entre l'expérimentation et la pratique réelle. Enfin, nous observons un effet d'équilibre de course, où de meilleurs générateurs conduisent à de meilleurs détecteurs, et vice versa. Nous émettons l'hypothèse que cela pousse le domaine vers une course perpétuellement serrée entre les générateurs et les détecteurs.

English

The continued release of new and better image generation models increases the demand for synthetic image detectors. In such a dynamic field, detectors need to be able to generalize widely and be robust to uncontrolled alterations. The present work is motivated by this setting, when looking at the role of time, image transformations and data sources, for detector generalization. In these experiments, none of the evaluated detectors is found universal, but results indicate an ensemble could be. Experiments on data collected in the wild show this task to be more challenging than the one defined by large-scale datasets, pointing to a gap between experimentation and actual practice. Finally, we observe a race equilibrium effect, where better generators lead to better detectors, and vice versa. We hypothesize this pushes the field towards a perpetually close race between generators and detectors.