Die Sprödigkeit von KI-generierten Bild-Wasserzeichentechniken: Eine Untersuchung ihrer Robustheit gegen visuelle Paraphrasierungsangriffe.

The Brittleness of AI-Generated Image Watermarking Techniques: Examining Their Robustness Against Visual Paraphrasing Attacks

August 19, 2024

Autoren: Niyar R Barman, Krish Sharma, Ashhar Aziz, Shashwat Bajpai, Shwetangshu Biswas, Vasu Sharma, Vinija Jain, Aman Chadha, Amit Sheth, Amitava Das

cs.AI

Zusammenfassung

Der rasante Fortschritt von Text-zu-Bild-Generierungssystemen, wie sie beispielsweise von Modellen wie Stable Diffusion, Midjourney, Imagen und DALL-E verkörpert werden, hat Bedenken hinsichtlich ihres potenziellen Missbrauchs verstärkt. Als Reaktion darauf haben Unternehmen wie Meta und Google ihre Bemühungen verstärkt, Wasserzeichentechniken auf KI-generierten Bildern zu implementieren, um die Verbreitung potenziell irreführender visueller Inhalte einzudämmen. In diesem Paper argumentieren wir jedoch, dass aktuelle Bild-Wasserzeichnungsmethoden anfällig sind und durch visuelle Paraphrasenangriffe umgangen werden können. Der vorgeschlagene visuelle Paraphraser arbeitet in zwei Schritten. Zunächst generiert er eine Bildunterschrift für das gegebene Bild mithilfe von KOSMOS-2, einem der neuesten State-of-the-Art-Bildunterschriftsysteme. Anschließend übergibt er sowohl das Originalbild als auch die generierte Bildunterschrift an ein Bild-zu-Bild-Diffusionssystem. Während des Rauschunterdrückungsschritts des Diffusions-Pipelinesystems generiert das System ein visuell ähnliches Bild, das durch die Textunterschrift geleitet wird. Das resultierende Bild ist eine visuelle Paraphrase und frei von Wasserzeichen. Unsere empirischen Ergebnisse zeigen, dass visuelle Paraphrasenangriffe Wasserzeichen effektiv von Bildern entfernen können. Dieses Paper bietet eine kritische Bewertung und zeigt empirisch die Anfälligkeit bestehender Wasserzeichnungstechniken für visuelle Paraphrasenangriffe auf. Obwohl wir keine Lösungen für dieses Problem vorschlagen, dient dieses Paper als Aufruf an die wissenschaftliche Gemeinschaft, die Entwicklung robusterer Wasserzeichnungstechniken zu priorisieren. Unser erstmaliger visueller Paraphrasendatensatz und der begleitende Code sind öffentlich verfügbar.

English

The rapid advancement of text-to-image generation systems, exemplified by models like Stable Diffusion, Midjourney, Imagen, and DALL-E, has heightened concerns about their potential misuse. In response, companies like Meta and Google have intensified their efforts to implement watermarking techniques on AI-generated images to curb the circulation of potentially misleading visuals. However, in this paper, we argue that current image watermarking methods are fragile and susceptible to being circumvented through visual paraphrase attacks. The proposed visual paraphraser operates in two steps. First, it generates a caption for the given image using KOSMOS-2, one of the latest state-of-the-art image captioning systems. Second, it passes both the original image and the generated caption to an image-to-image diffusion system. During the denoising step of the diffusion pipeline, the system generates a visually similar image that is guided by the text caption. The resulting image is a visual paraphrase and is free of any watermarks. Our empirical findings demonstrate that visual paraphrase attacks can effectively remove watermarks from images. This paper provides a critical assessment, empirically revealing the vulnerability of existing watermarking techniques to visual paraphrase attacks. While we do not propose solutions to this issue, this paper serves as a call to action for the scientific community to prioritize the development of more robust watermarking techniques. Our first-of-its-kind visual paraphrase dataset and accompanying code are publicly available.