DreamStyler : Peindre par inversion de style avec des modèles de diffusion texte-image

DreamStyler: Paint by Style Inversion with Text-to-Image Diffusion Models

September 13, 2023

Auteurs: Namhyuk Ahn, Junsoo Lee, Chunggi Lee, Kunhee Kim, Daesik Kim, Seung-Hun Nam, Kibeom Hong

cs.AI

Résumé

Les récents progrès dans les modèles de génération d'images à grande échelle à partir de texte ont permis des réalisations remarquables, trouvant diverses applications dans le domaine de l'art. Cependant, exprimer les caractéristiques uniques d'une œuvre d'art (par exemple, le coup de pinceau, la tonalité des couleurs ou la composition) uniquement avec des invites textuelles peut rencontrer des limitations en raison des contraintes inhérentes à la description verbale. Pour cela, nous introduisons DreamStyler, un nouveau cadre conçu pour la synthèse d'images artistiques, compétent à la fois dans la synthèse texte-image et le transfert de style. DreamStyler optimise un encodage textuel multi-étapes avec une invite textuelle contextuelle, aboutissant à une qualité d'image remarquable. De plus, avec des guides de contenu et de style, DreamStyler montre une flexibilité pour s'adapter à une gamme de références stylistiques. Les résultats expérimentaux démontrent sa performance supérieure dans plusieurs scénarios, suggérant son potentiel prometteur dans la création de produits artistiques.

English

Recent progresses in large-scale text-to-image models have yielded remarkable accomplishments, finding various applications in art domain. However, expressing unique characteristics of an artwork (e.g. brushwork, colortone, or composition) with text prompts alone may encounter limitations due to the inherent constraints of verbal description. To this end, we introduce DreamStyler, a novel framework designed for artistic image synthesis, proficient in both text-to-image synthesis and style transfer. DreamStyler optimizes a multi-stage textual embedding with a context-aware text prompt, resulting in prominent image quality. In addition, with content and style guidance, DreamStyler exhibits flexibility to accommodate a range of style references. Experimental results demonstrate its superior performance across multiple scenarios, suggesting its promising potential in artistic product creation.