ART: Transformador de Región Anónima para la Generación de Imágenes Transparentes Multicapa Variables

ART: Anonymous Region Transformer for Variable Multi-Layer Transparent Image Generation

February 25, 2025

Autores: Yifan Pu, Yiming Zhao, Zhicong Tang, Ruihong Yin, Haoxing Ye, Yuhui Yuan, Dong Chen, Jianmin Bao, Sirui Zhang, Yanbin Wang, Lin Liang, Lijuan Wang, Ji Li, Xiu Li, Zhouhui Lian, Gao Huang, Baining Guo

cs.AI

Resumen

La generación de imágenes multicapa es una tarea fundamental que permite a los usuarios aislar, seleccionar y editar capas específicas de una imagen, revolucionando así la interacción con los modelos generativos. En este artículo, presentamos el Anonymous Region Transformer (ART), que facilita la generación directa de imágenes transparentes multicapa variables basadas en un prompt de texto global y un diseño de regiones anónimas. Inspirado por la teoría de esquemas, que sugiere que el conocimiento se organiza en marcos (esquemas) que permiten a las personas interpretar y aprender nueva información vinculándola con conocimientos previos, este diseño de regiones anónimas permite que el modelo generativo determine de manera autónoma qué conjunto de tokens visuales debe alinearse con qué tokens de texto, lo que contrasta con el diseño semántico previamente dominante para la tarea de generación de imágenes. Además, el mecanismo de recorte de regiones por capas, que solo selecciona los tokens visuales pertenecientes a cada región anónima, reduce significativamente los costos de cálculo de atención y permite la generación eficiente de imágenes con numerosas capas distintas (por ejemplo, 50+). En comparación con el enfoque de atención completa, nuestro método es más de 12 veces más rápido y presenta menos conflictos entre capas. Además, proponemos un autocodificador de imágenes transparentes multicapa de alta calidad que admite la codificación y decodificación directa de la transparencia de imágenes multicapa variables de manera conjunta. Al permitir un control preciso y una generación escalable de capas, ART establece un nuevo paradigma para la creación de contenido interactivo.

English

Multi-layer image generation is a fundamental task that enables users to isolate, select, and edit specific image layers, thereby revolutionizing interactions with generative models. In this paper, we introduce the Anonymous Region Transformer (ART), which facilitates the direct generation of variable multi-layer transparent images based on a global text prompt and an anonymous region layout. Inspired by Schema theory suggests that knowledge is organized in frameworks (schemas) that enable people to interpret and learn from new information by linking it to prior knowledge.}, this anonymous region layout allows the generative model to autonomously determine which set of visual tokens should align with which text tokens, which is in contrast to the previously dominant semantic layout for the image generation task. In addition, the layer-wise region crop mechanism, which only selects the visual tokens belonging to each anonymous region, significantly reduces attention computation costs and enables the efficient generation of images with numerous distinct layers (e.g., 50+). When compared to the full attention approach, our method is over 12 times faster and exhibits fewer layer conflicts. Furthermore, we propose a high-quality multi-layer transparent image autoencoder that supports the direct encoding and decoding of the transparency of variable multi-layer images in a joint manner. By enabling precise control and scalable layer generation, ART establishes a new paradigm for interactive content creation.