ART: Anonieme Regio Transformer voor Variabele Multi-Laag Transparante Beeldgeneratie

ART: Anonymous Region Transformer for Variable Multi-Layer Transparent Image Generation

February 25, 2025

Auteurs: Yifan Pu, Yiming Zhao, Zhicong Tang, Ruihong Yin, Haoxing Ye, Yuhui Yuan, Dong Chen, Jianmin Bao, Sirui Zhang, Yanbin Wang, Lin Liang, Lijuan Wang, Ji Li, Xiu Li, Zhouhui Lian, Gao Huang, Baining Guo

cs.AI

Samenvatting

Meerlaagse beeldgeneratie is een fundamentele taak die gebruikers in staat stelt om specifieke beeldlagen te isoleren, te selecteren en te bewerken, waardoor de interactie met generatieve modellen wordt gerevolutioneerd. In dit artikel introduceren we de Anonymous Region Transformer (ART), die de directe generatie van variabele meerlaagse transparante beelden mogelijk maakt op basis van een globale tekstprompt en een anonieme regiolay-out. Geïnspireerd door de Schematheorie, die suggereert dat kennis is georganiseerd in kaders (schema's) die mensen in staat stellen nieuwe informatie te interpreteren en te leren door deze te koppelen aan eerder opgedane kennis, stelt deze anonieme regiolay-out het generatieve model in staat om autonoom te bepalen welke set visuele tokens moet overeenkomen met welke teksttokens, wat in contrast staat met de voorheen dominante semantische lay-out voor de beeldgeneratietaak. Bovendien vermindert het laaggewijze regio-uitsnijdmechanisme, dat alleen de visuele tokens selecteert die bij elke anonieme regio horen, de rekenkosten voor aandacht aanzienlijk en maakt het de efficiënte generatie van beelden met talrijke afzonderlijke lagen mogelijk (bijv. 50+). In vergelijking met de volledige aandachtbenadering is onze methode meer dan 12 keer sneller en vertoont deze minder laagconflicten. Daarnaast stellen we een hoogwaardige meerlaagse transparante beeldauto-encoder voor die het directe coderen en decoderen van de transparantie van variabele meerlaagse beelden op een gezamenlijke manier ondersteunt. Door precieze controle en schaalbare laaggeneratie mogelijk te maken, vestigt ART een nieuw paradigma voor interactieve contentcreatie.

English

Multi-layer image generation is a fundamental task that enables users to isolate, select, and edit specific image layers, thereby revolutionizing interactions with generative models. In this paper, we introduce the Anonymous Region Transformer (ART), which facilitates the direct generation of variable multi-layer transparent images based on a global text prompt and an anonymous region layout. Inspired by Schema theory suggests that knowledge is organized in frameworks (schemas) that enable people to interpret and learn from new information by linking it to prior knowledge.}, this anonymous region layout allows the generative model to autonomously determine which set of visual tokens should align with which text tokens, which is in contrast to the previously dominant semantic layout for the image generation task. In addition, the layer-wise region crop mechanism, which only selects the visual tokens belonging to each anonymous region, significantly reduces attention computation costs and enables the efficient generation of images with numerous distinct layers (e.g., 50+). When compared to the full attention approach, our method is over 12 times faster and exhibits fewer layer conflicts. Furthermore, we propose a high-quality multi-layer transparent image autoencoder that supports the direct encoding and decoding of the transparency of variable multi-layer images in a joint manner. By enabling precise control and scalable layer generation, ART establishes a new paradigm for interactive content creation.