ThemeStation: Generazione di Asset 3D con Tema a Partire da Pochi Esempi

ThemeStation: Generating Theme-Aware 3D Assets from Few Exemplars

March 22, 2024

Autori: Zhenwei Wang, Tengfei Wang, Gerhard Hancke, Ziwei Liu, Rynson W. H. Lau

cs.AI

Abstract

Le applicazioni nel mondo reale spesso richiedono una vasta raccolta di asset 3D che condividono un tema coerente. Sebbene siano stati compiuti progressi significativi nella creazione generale di contenuti 3D a partire da testo o immagini, la sintesi di asset 3D personalizzati che seguano il tema condiviso di esemplari 3D di input rimane un problema aperto e complesso. In questo lavoro, presentiamo ThemeStation, un approccio innovativo per la generazione 3D-to-3D consapevole del tema. ThemeStation sintetizza asset 3D personalizzati basandosi su pochi esemplari forniti, con due obiettivi: 1) unità, per generare asset 3D che si allineano tematicamente con gli esemplari forniti, e 2) diversità, per generare asset 3D con un alto grado di variazioni. A tal fine, progettiamo un framework a due stadi che prima disegna un'immagine concettuale, seguito da una fase di modellazione 3D informata da riferimenti. Proponiamo una nuova funzione di perdita a distillazione a doppio punteggio (DSD) per sfruttare congiuntamente i priori sia dagli esemplari di input che dall'immagine concettuale sintetizzata. Esperimenti estesi e studi sugli utenti confermano che ThemeStation supera i lavori precedenti nella produzione di modelli 3D consapevoli del tema con una qualità impressionante. ThemeStation abilita anche varie applicazioni, come la generazione controllata 3D-to-3D.

English

Real-world applications often require a large gallery of 3D assets that share a consistent theme. While remarkable advances have been made in general 3D content creation from text or image, synthesizing customized 3D assets following the shared theme of input 3D exemplars remains an open and challenging problem. In this work, we present ThemeStation, a novel approach for theme-aware 3D-to-3D generation. ThemeStation synthesizes customized 3D assets based on given few exemplars with two goals: 1) unity for generating 3D assets that thematically align with the given exemplars and 2) diversity for generating 3D assets with a high degree of variations. To this end, we design a two-stage framework that draws a concept image first, followed by a reference-informed 3D modeling stage. We propose a novel dual score distillation (DSD) loss to jointly leverage priors from both the input exemplars and the synthesized concept image. Extensive experiments and user studies confirm that ThemeStation surpasses prior works in producing diverse theme-aware 3D models with impressive quality. ThemeStation also enables various applications such as controllable 3D-to-3D generation.