合成画像検出器の現在と将来の一般化

Present and Future Generalization of Synthetic Image Detectors

September 21, 2024

著者: Pablo Bernabeu-Perez, Enrique Lopez-Cuena, Dario Garcia-Gasulla

cs.AI

要旨

新しいより優れた画像生成モデルの継続的なリリースは、合成画像検出器への需要を高めています。このようなダイナミックな分野では、検出器は広く一般化し、制御されていない変更に対して堅牢である必要があります。本研究は、検出器の一般化における時間、画像変換、およびデータソースの役割を検討する際に、この状況に動機づけられています。これらの実験では、評価された検出器のいずれも普遍的ではないが、結果はアンサンブルが可能であることを示唆しています。野外で収集されたデータに基づく実験は、大規模データセットによって定義されたものよりもこのタスクがより困難であることを示し、実験と実際の実践の間にギャップがあることを指摘しています。最後に、より良いジェネレータがより良い検出器につながり、その逆もまた然りという競争均衡効果が観察されます。このことが、フィールドをジェネレータと検出器の間で絶えず接戦となる方向に推進していると仮説を立てています。

English

The continued release of new and better image generation models increases the demand for synthetic image detectors. In such a dynamic field, detectors need to be able to generalize widely and be robust to uncontrolled alterations. The present work is motivated by this setting, when looking at the role of time, image transformations and data sources, for detector generalization. In these experiments, none of the evaluated detectors is found universal, but results indicate an ensemble could be. Experiments on data collected in the wild show this task to be more challenging than the one defined by large-scale datasets, pointing to a gap between experimentation and actual practice. Finally, we observe a race equilibrium effect, where better generators lead to better detectors, and vice versa. We hypothesize this pushes the field towards a perpetually close race between generators and detectors.