ThemaStation: Generierung von themenbewussten 3D-Assets aus wenigen Beispielen

ThemeStation: Generating Theme-Aware 3D Assets from Few Exemplars

March 22, 2024

Autoren: Zhenwei Wang, Tengfei Wang, Gerhard Hancke, Ziwei Liu, Rynson W. H. Lau

cs.AI

Zusammenfassung

Realitätsnahe Anwendungen erfordern oft eine große Galerie von 3D-Ressourcen, die ein konsistentes Thema teilen. Während bemerkenswerte Fortschritte bei der allgemeinen 3D-Inhaltsentwicklung aus Text oder Bildern erzielt wurden, bleibt die Synthese individueller 3D-Ressourcen im gemeinsamen Thema der Eingabe-3D-Beispiele ein offenes und anspruchsvolles Problem. In dieser Arbeit präsentieren wir ThemeStation, einen innovativen Ansatz für themenbewusste 3D-zu-3D-Generierung. ThemeStation synthetisiert individuelle 3D-Ressourcen basierend auf wenigen gegebenen Beispielen mit zwei Zielen: 1) Einheit, um 3D-Ressourcen zu generieren, die thematisch mit den gegebenen Beispielen übereinstimmen, und 2) Vielfalt, um 3D-Ressourcen mit einem hohen Grad an Variationen zu generieren. Zu diesem Zweck entwerfen wir einen zweistufigen Rahmen, der zuerst ein Konzeptbild zeichnet, gefolgt von einer referenzinformierten 3D-Modellierungsphase. Wir schlagen einen neuartigen Dual-Score-Destillations (DSD) Verlust vor, um Prioritäten sowohl von den Eingabebeispielen als auch vom synthetisierten Konzeptbild gemeinsam zu nutzen. Umfangreiche Experimente und Benutzerstudien bestätigen, dass ThemeStation frühere Arbeiten in der Produktion vielfältiger themenbewusster 3D-Modelle mit beeindruckender Qualität übertrifft. ThemeStation ermöglicht auch verschiedene Anwendungen wie steuerbare 3D-zu-3D-Generierung.

English

Real-world applications often require a large gallery of 3D assets that share a consistent theme. While remarkable advances have been made in general 3D content creation from text or image, synthesizing customized 3D assets following the shared theme of input 3D exemplars remains an open and challenging problem. In this work, we present ThemeStation, a novel approach for theme-aware 3D-to-3D generation. ThemeStation synthesizes customized 3D assets based on given few exemplars with two goals: 1) unity for generating 3D assets that thematically align with the given exemplars and 2) diversity for generating 3D assets with a high degree of variations. To this end, we design a two-stage framework that draws a concept image first, followed by a reference-informed 3D modeling stage. We propose a novel dual score distillation (DSD) loss to jointly leverage priors from both the input exemplars and the synthesized concept image. Extensive experiments and user studies confirm that ThemeStation surpasses prior works in producing diverse theme-aware 3D models with impressive quality. ThemeStation also enables various applications such as controllable 3D-to-3D generation.