Обобщение настоящего и будущего синтетических детекторов изображений

Present and Future Generalization of Synthetic Image Detectors

September 21, 2024

Авторы: Pablo Bernabeu-Perez, Enrique Lopez-Cuena, Dario Garcia-Gasulla

cs.AI

Аннотация

Постоянное появление новых и более эффективных моделей генерации изображений увеличивает спрос на синтетические детекторы изображений. В такой динамичной области детекторы должны обладать широкой обобщающей способностью и устойчивостью к неконтролируемым изменениям. Настоящая работа мотивирована исследованием роли времени, преобразований изображений и источников данных для обобщения детектора. В ходе этих экспериментов ни один из оцененных детекторов не оказался универсальным, однако результаты указывают на то, что ансамбль может быть таковым. Эксперименты на данных, собранных в естественных условиях, показывают, что данная задача более сложна, чем та, которая определена крупномасштабными наборами данных, указывая на разрыв между экспериментами и реальной практикой. Наконец, мы наблюдаем эффект равновесия в гонке, где более эффективные генераторы приводят к улучшению детекторов, и наоборот. Мы предполагаем, что это толкает область к постоянной близкой гонке между генераторами и детекторами.

English

The continued release of new and better image generation models increases the demand for synthetic image detectors. In such a dynamic field, detectors need to be able to generalize widely and be robust to uncontrolled alterations. The present work is motivated by this setting, when looking at the role of time, image transformations and data sources, for detector generalization. In these experiments, none of the evaluated detectors is found universal, but results indicate an ensemble could be. Experiments on data collected in the wild show this task to be more challenging than the one defined by large-scale datasets, pointing to a gap between experimentation and actual practice. Finally, we observe a race equilibrium effect, where better generators lead to better detectors, and vice versa. We hypothesize this pushes the field towards a perpetually close race between generators and detectors.