Atlas3D: Fysiek Beperkte Zelfondersteunende Tekst-naar-3D voor Simulatie en Fabricage

Atlas3D: Physically Constrained Self-Supporting Text-to-3D for Simulation and Fabrication

May 28, 2024

Auteurs: Yunuo Chen, Tianyi Xie, Zeshun Zong, Xuan Li, Feng Gao, Yin Yang, Ying Nian Wu, Chenfanfu Jiang

cs.AI

Samenvatting

Bestaande op diffusie gebaseerde tekst-naar-3D-generatiemethoden richten zich voornamelijk op het produceren van visueel realistische vormen en uiterlijken, waarbij vaak de fysieke beperkingen die nodig zijn voor downstream taken worden verwaarloosd. Geproduceerde modellen houden vaak geen balans wanneer ze worden geplaatst in op fysica gebaseerde simulaties of worden 3D-geprint. Deze balans is cruciaal voor het voldoen aan de ontwerpintenties van gebruikers in interactieve gaming, embodied AI en robotica, waar stabiele modellen nodig zijn voor betrouwbare interactie. Daarnaast zorgen stabiele modellen ervoor dat 3D-geprinte objecten, zoals beeldjes voor thuisdecoratie, zelfstandig kunnen staan zonder extra ondersteuning. Om deze leemte op te vullen, introduceren we Atlas3D, een automatische en eenvoudig te implementeren methode die bestaande op Score Distillation Sampling (SDS) gebaseerde tekst-naar-3D-tools verbetert. Atlas3D zorgt voor de generatie van zelfondersteunende 3D-modellen die voldoen aan de fysieke wetten van stabiliteit onder zwaartekracht, contact en wrijving. Onze aanpak combineert een nieuwe differentieerbare op simulatie gebaseerde verliesfunctie met fysiek geïnspireerde regularisatie, die dient als een verfijning of een post-processing module voor bestaande frameworks. We verifiëren de effectiviteit van Atlas3D door middel van uitgebreide generatietaken en valideren de resulterende 3D-modellen in zowel gesimuleerde als real-world omgevingen.

English

Existing diffusion-based text-to-3D generation methods primarily focus on producing visually realistic shapes and appearances, often neglecting the physical constraints necessary for downstream tasks. Generated models frequently fail to maintain balance when placed in physics-based simulations or 3D printed. This balance is crucial for satisfying user design intentions in interactive gaming, embodied AI, and robotics, where stable models are needed for reliable interaction. Additionally, stable models ensure that 3D-printed objects, such as figurines for home decoration, can stand on their own without requiring additional supports. To fill this gap, we introduce Atlas3D, an automatic and easy-to-implement method that enhances existing Score Distillation Sampling (SDS)-based text-to-3D tools. Atlas3D ensures the generation of self-supporting 3D models that adhere to physical laws of stability under gravity, contact, and friction. Our approach combines a novel differentiable simulation-based loss function with physically inspired regularization, serving as either a refinement or a post-processing module for existing frameworks. We verify Atlas3D's efficacy through extensive generation tasks and validate the resulting 3D models in both simulated and real-world environments.