ART: Trasformatore di Regione Anonima per la Generazione di Immagini Trasparenti Multistrato Variabili

ART: Anonymous Region Transformer for Variable Multi-Layer Transparent Image Generation

February 25, 2025

Autori: Yifan Pu, Yiming Zhao, Zhicong Tang, Ruihong Yin, Haoxing Ye, Yuhui Yuan, Dong Chen, Jianmin Bao, Sirui Zhang, Yanbin Wang, Lin Liang, Lijuan Wang, Ji Li, Xiu Li, Zhouhui Lian, Gao Huang, Baining Guo

cs.AI

Abstract

La generazione di immagini multi-strato è un compito fondamentale che consente agli utenti di isolare, selezionare e modificare specifici strati di immagini, rivoluzionando così le interazioni con i modelli generativi. In questo articolo, introduciamo l'Anonymous Region Transformer (ART), che facilita la generazione diretta di immagini trasparenti multi-strato variabili basate su un prompt testuale globale e un layout di regioni anonime. Ispirati dalla teoria degli schemi, che suggerisce che la conoscenza è organizzata in strutture (schemi) che consentono alle persone di interpretare e apprendere nuove informazioni collegandole a conoscenze pregresse, questo layout di regioni anonime permette al modello generativo di determinare autonomamente quale insieme di token visivi debba allinearsi con quali token testuali, in contrasto con il layout semantico precedentemente dominante per il compito di generazione di immagini. Inoltre, il meccanismo di ritaglio regionale strato per strato, che seleziona solo i token visivi appartenenti a ciascuna regione anonima, riduce significativamente i costi computazionali dell'attenzione e consente la generazione efficiente di immagini con numerosi strati distinti (ad esempio, 50+). Rispetto all'approccio di attenzione completa, il nostro metodo è oltre 12 volte più veloce e presenta meno conflitti tra gli strati. Inoltre, proponiamo un autoencoder di alta qualità per immagini trasparenti multi-strato che supporta la codifica e decodifica diretta della trasparenza di immagini multi-strato variabili in modo congiunto. Consentendo un controllo preciso e una generazione scalabile degli strati, ART stabilisce un nuovo paradigma per la creazione di contenuti interattivi.

English

Multi-layer image generation is a fundamental task that enables users to isolate, select, and edit specific image layers, thereby revolutionizing interactions with generative models. In this paper, we introduce the Anonymous Region Transformer (ART), which facilitates the direct generation of variable multi-layer transparent images based on a global text prompt and an anonymous region layout. Inspired by Schema theory suggests that knowledge is organized in frameworks (schemas) that enable people to interpret and learn from new information by linking it to prior knowledge.}, this anonymous region layout allows the generative model to autonomously determine which set of visual tokens should align with which text tokens, which is in contrast to the previously dominant semantic layout for the image generation task. In addition, the layer-wise region crop mechanism, which only selects the visual tokens belonging to each anonymous region, significantly reduces attention computation costs and enables the efficient generation of images with numerous distinct layers (e.g., 50+). When compared to the full attention approach, our method is over 12 times faster and exhibits fewer layer conflicts. Furthermore, we propose a high-quality multi-layer transparent image autoencoder that supports the direct encoding and decoding of the transparency of variable multi-layer images in a joint manner. By enabling precise control and scalable layer generation, ART establishes a new paradigm for interactive content creation.