ART: Anonymer Regionstransformator zur variablen Erzeugung mehrschichtiger transparenter Bilder

ART: Anonymous Region Transformer for Variable Multi-Layer Transparent Image Generation

February 25, 2025

Autoren: Yifan Pu, Yiming Zhao, Zhicong Tang, Ruihong Yin, Haoxing Ye, Yuhui Yuan, Dong Chen, Jianmin Bao, Sirui Zhang, Yanbin Wang, Lin Liang, Lijuan Wang, Ji Li, Xiu Li, Zhouhui Lian, Gao Huang, Baining Guo

cs.AI

Zusammenfassung

Die Erzeugung mehrschichtiger Bilder ist eine grundlegende Aufgabe, die es Nutzern ermöglicht, spezifische Bildebenen zu isolieren, auszuwählen und zu bearbeiten, wodurch die Interaktion mit generativen Modellen revolutioniert wird. In diesem Artikel stellen wir den Anonymous Region Transformer (ART) vor, der die direkte Erzeugung variabler mehrschichtiger transparenter Bilder basierend auf einem globalen Text-Prompt und einem anonymen Regionen-Layout ermöglicht. Inspiriert von der Schema-Theorie, die besagt, dass Wissen in Rahmenwerken (Schemata) organisiert ist, die es Menschen ermöglichen, neue Informationen zu interpretieren und zu lernen, indem sie diese mit vorhandenem Wissen verknüpfen, erlaubt dieses anonyme Regionen-Layout dem generativen Modell, autonom zu bestimmen, welche Gruppe von visuellen Tokens welchen Text-Tokens zugeordnet werden soll. Dies steht im Gegensatz zu dem bisher dominierenden semantischen Layout für die Bildgenerierungsaufgabe. Darüber hinaus reduziert der schichtweise Regionen-Crop-Mechanismus, der nur die visuellen Tokens auswählt, die zu jeder anonymen Region gehören, die Aufmerksamkeitsberechnungskosten erheblich und ermöglicht die effiziente Erzeugung von Bildern mit zahlreichen unterschiedlichen Ebenen (z. B. 50+). Im Vergleich zum vollständigen Aufmerksamkeitsansatz ist unsere Methode über 12-mal schneller und zeigt weniger Ebenenkonflikte. Zusätzlich schlagen wir einen hochwertigen mehrschichtigen transparenten Bild-Autoencoder vor, der die direkte Kodierung und Dekodierung der Transparenz variabler mehrschichtiger Bilder in einer gemeinsamen Weise unterstützt. Durch die Ermöglichung präziser Kontrolle und skalierbarer Ebenengenerierung etabliert ART ein neues Paradigma für die interaktive Inhaltserstellung.

English

Multi-layer image generation is a fundamental task that enables users to isolate, select, and edit specific image layers, thereby revolutionizing interactions with generative models. In this paper, we introduce the Anonymous Region Transformer (ART), which facilitates the direct generation of variable multi-layer transparent images based on a global text prompt and an anonymous region layout. Inspired by Schema theory suggests that knowledge is organized in frameworks (schemas) that enable people to interpret and learn from new information by linking it to prior knowledge.}, this anonymous region layout allows the generative model to autonomously determine which set of visual tokens should align with which text tokens, which is in contrast to the previously dominant semantic layout for the image generation task. In addition, the layer-wise region crop mechanism, which only selects the visual tokens belonging to each anonymous region, significantly reduces attention computation costs and enables the efficient generation of images with numerous distinct layers (e.g., 50+). When compared to the full attention approach, our method is over 12 times faster and exhibits fewer layer conflicts. Furthermore, we propose a high-quality multi-layer transparent image autoencoder that supports the direct encoding and decoding of the transparency of variable multi-layer images in a joint manner. By enabling precise control and scalable layer generation, ART establishes a new paradigm for interactive content creation.