LDGen: Mejorando la síntesis de texto a imagen mediante representación lingüística guiada por modelos de lenguaje de gran escala

LDGen: Enhancing Text-to-Image Synthesis via Large Language Model-Driven Language Representation

February 25, 2025

Autores: Pengzhi Li, Pengfei Yu, Zide Liu, Wei He, Xuhao Pan, Xudong Rao, Tao Wei, Wei Chen

cs.AI

Resumen

En este artículo presentamos LDGen, un método novedoso para integrar modelos de lenguaje de gran escala (LLMs) en modelos de difusión de texto a imagen existentes, minimizando los requisitos computacionales. Los codificadores de texto tradicionales, como CLIP y T5, presentan limitaciones en el procesamiento multilingüe, lo que dificulta la generación de imágenes en diversos idiomas. Abordamos estos desafíos aprovechando las capacidades avanzadas de los LLMs. Nuestro enfoque emplea una estrategia de representación lingüística que aplica optimización jerárquica de subtítulos y técnicas de instrucción humana para obtener información semántica precisa. Posteriormente, incorporamos un adaptador ligero y un refinador multimodal para facilitar la alineación eficiente de características y la interacción entre los LLMs y las características de la imagen. LDGen reduce el tiempo de entrenamiento y permite la generación de imágenes multilingüe en modo zero-shot. Los resultados experimentales indican que nuestro método supera a los modelos de referencia tanto en la adherencia al prompt como en la calidad estética de las imágenes, al tiempo que admite múltiples idiomas de manera fluida. Página del proyecto: https://zrealli.github.io/LDGen.

English

In this paper, we introduce LDGen, a novel method for integrating large language models (LLMs) into existing text-to-image diffusion models while minimizing computational demands. Traditional text encoders, such as CLIP and T5, exhibit limitations in multilingual processing, hindering image generation across diverse languages. We address these challenges by leveraging the advanced capabilities of LLMs. Our approach employs a language representation strategy that applies hierarchical caption optimization and human instruction techniques to derive precise semantic information,. Subsequently, we incorporate a lightweight adapter and a cross-modal refiner to facilitate efficient feature alignment and interaction between LLMs and image features. LDGen reduces training time and enables zero-shot multilingual image generation. Experimental results indicate that our method surpasses baseline models in both prompt adherence and image aesthetic quality, while seamlessly supporting multiple languages. Project page: https://zrealli.github.io/LDGen.