ART : Transformateur de Région Anonyme pour la Génération d'Images Transparentes Multi-Couches Variables

ART: Anonymous Region Transformer for Variable Multi-Layer Transparent Image Generation

February 25, 2025

Auteurs: Yifan Pu, Yiming Zhao, Zhicong Tang, Ruihong Yin, Haoxing Ye, Yuhui Yuan, Dong Chen, Jianmin Bao, Sirui Zhang, Yanbin Wang, Lin Liang, Lijuan Wang, Ji Li, Xiu Li, Zhouhui Lian, Gao Huang, Baining Guo

cs.AI

Résumé

La génération d'images multicouches est une tâche fondamentale qui permet aux utilisateurs d'isoler, de sélectionner et de modifier des couches spécifiques d'une image, révolutionnant ainsi les interactions avec les modèles génératifs. Dans cet article, nous présentons le Anonymous Region Transformer (ART), qui facilite la génération directe d'images transparentes multicouches variables basées sur un prompt textuel global et une disposition de régions anonymes. Inspiré par la théorie des schémas, qui suggère que la connaissance est organisée en cadres (schémas) permettant aux individus d'interpréter et d'apprendre de nouvelles informations en les reliant à des connaissances préalables, cette disposition de régions anonymes permet au modèle génératif de déterminer de manière autonome quel ensemble de tokens visuels doit correspondre à quels tokens textuels, ce qui contraste avec la disposition sémantique précédemment dominante pour la tâche de génération d'images. De plus, le mécanisme de découpage régional par couche, qui ne sélectionne que les tokens visuels appartenant à chaque région anonyme, réduit considérablement les coûts de calcul d'attention et permet la génération efficace d'images avec de nombreuses couches distinctes (par exemple, 50+). Par rapport à l'approche d'attention complète, notre méthode est plus de 12 fois plus rapide et présente moins de conflits entre les couches. En outre, nous proposons un autoencodeur d'images transparentes multicouches de haute qualité qui supporte l'encodage et le décodage directs de la transparence des images multicouches variables de manière conjointe. En permettant un contrôle précis et une génération de couches scalable, ART établit un nouveau paradigme pour la création de contenu interactif.

English

Multi-layer image generation is a fundamental task that enables users to isolate, select, and edit specific image layers, thereby revolutionizing interactions with generative models. In this paper, we introduce the Anonymous Region Transformer (ART), which facilitates the direct generation of variable multi-layer transparent images based on a global text prompt and an anonymous region layout. Inspired by Schema theory suggests that knowledge is organized in frameworks (schemas) that enable people to interpret and learn from new information by linking it to prior knowledge.}, this anonymous region layout allows the generative model to autonomously determine which set of visual tokens should align with which text tokens, which is in contrast to the previously dominant semantic layout for the image generation task. In addition, the layer-wise region crop mechanism, which only selects the visual tokens belonging to each anonymous region, significantly reduces attention computation costs and enables the efficient generation of images with numerous distinct layers (e.g., 50+). When compared to the full attention approach, our method is over 12 times faster and exhibits fewer layer conflicts. Furthermore, we propose a high-quality multi-layer transparent image autoencoder that supports the direct encoding and decoding of the transparency of variable multi-layer images in a joint manner. By enabling precise control and scalable layer generation, ART establishes a new paradigm for interactive content creation.