DreamStyler: Dipingere per Inversione di Stile con Modelli di Diffusione da Testo a Immagine

DreamStyler: Paint by Style Inversion with Text-to-Image Diffusion Models

September 13, 2023

Autori: Namhyuk Ahn, Junsoo Lee, Chunggi Lee, Kunhee Kim, Daesik Kim, Seung-Hun Nam, Kibeom Hong

cs.AI

Abstract

I recenti progressi nei modelli su larga scala di generazione di immagini da testo hanno portato a risultati straordinari, trovando varie applicazioni nel campo dell'arte. Tuttavia, esprimere le caratteristiche uniche di un'opera d'arte (ad esempio, la pennellata, la tonalità dei colori o la composizione) utilizzando solo prompt testuali può incontrare limitazioni a causa dei vincoli intrinseci della descrizione verbale. A tal fine, introduciamo DreamStyler, un nuovo framework progettato per la sintesi di immagini artistiche, competente sia nella generazione di immagini da testo che nel trasferimento di stile. DreamStyler ottimizza un'incorporazione testuale multi-stadio con un prompt testuale contestuale, ottenendo una qualità dell'immagine di rilievo. Inoltre, con la guida del contenuto e dello stile, DreamStyler mostra flessibilità nell'adattarsi a una gamma di riferimenti stilistici. I risultati sperimentali dimostrano la sua prestazione superiore in molteplici scenari, suggerendo il suo potenziale promettente nella creazione di prodotti artistici.

English

Recent progresses in large-scale text-to-image models have yielded remarkable accomplishments, finding various applications in art domain. However, expressing unique characteristics of an artwork (e.g. brushwork, colortone, or composition) with text prompts alone may encounter limitations due to the inherent constraints of verbal description. To this end, we introduce DreamStyler, a novel framework designed for artistic image synthesis, proficient in both text-to-image synthesis and style transfer. DreamStyler optimizes a multi-stage textual embedding with a context-aware text prompt, resulting in prominent image quality. In addition, with content and style guidance, DreamStyler exhibits flexibility to accommodate a range of style references. Experimental results demonstrate its superior performance across multiple scenarios, suggesting its promising potential in artistic product creation.