Trans4D: Realistische Meetkundebewuste Overgang voor Samenstellende Tekst-naar-4D Synthese

Trans4D: Realistic Geometry-Aware Transition for Compositional Text-to-4D Synthesis

October 9, 2024

Auteurs: Bohan Zeng, Ling Yang, Siyu Li, Jiaming Liu, Zixiang Zhang, Juanxi Tian, Kaixin Zhu, Yongzhen Guo, Fu-Yun Wang, Minkai Xu, Stefano Ermon, Wentao Zhang

cs.AI

Samenvatting

Recente ontwikkelingen in diffusiemodellen hebben uitzonderlijke capaciteiten aangetoond op het gebied van beeld- en videogeneratie, waardoor de effectiviteit van 4D-synthese verder is verbeterd. Bestaande 4D-generatiemethoden kunnen hoogwaardige 4D-objecten of scènes genereren op basis van gebruiksvriendelijke voorwaarden, wat ten goede komt aan de gaming- en video-industrie. Deze methoden hebben echter moeite met het synthetiseren van significante objectdeformatie van complexe 4D-overgangen en interacties binnen scènes. Om dit probleem aan te pakken, stellen we Trans4D voor, een nieuw tekst-naar-4D-synthesekader dat realistische complexe scènetransities mogelijk maakt. Specifiek gebruiken we eerst multimodale grote taalmodellen (MLLM's) om een fysisch-bewuste scènebeschrijving te produceren voor 4D-scène-initialisatie en effectieve planning van transitietiming. Vervolgens stellen we een geometrie-bewust 4D-transitienetwerk voor om een complexe scène-niveau 4D-overgang te realiseren op basis van het plan, wat expressieve geometrische objectdeformatie omvat. Uitgebreide experimenten tonen aan dat Trans4D consequent beter presteert dan bestaande state-of-the-art methoden bij het genereren van 4D-scènes met nauwkeurige en hoogwaardige overgangen, wat de effectiviteit ervan bevestigt. Code: https://github.com/YangLing0818/Trans4D

English

Recent advances in diffusion models have demonstrated exceptional capabilities in image and video generation, further improving the effectiveness of 4D synthesis. Existing 4D generation methods can generate high-quality 4D objects or scenes based on user-friendly conditions, benefiting the gaming and video industries. However, these methods struggle to synthesize significant object deformation of complex 4D transitions and interactions within scenes. To address this challenge, we propose Trans4D, a novel text-to-4D synthesis framework that enables realistic complex scene transitions. Specifically, we first use multi-modal large language models (MLLMs) to produce a physic-aware scene description for 4D scene initialization and effective transition timing planning. Then we propose a geometry-aware 4D transition network to realize a complex scene-level 4D transition based on the plan, which involves expressive geometrical object deformation. Extensive experiments demonstrate that Trans4D consistently outperforms existing state-of-the-art methods in generating 4D scenes with accurate and high-quality transitions, validating its effectiveness. Code: https://github.com/YangLing0818/Trans4D