Atlas3D: Generazione di modelli 3D autoportanti con vincoli fisici da testo per simulazione e fabbricazione

Atlas3D: Physically Constrained Self-Supporting Text-to-3D for Simulation and Fabrication

May 28, 2024

Autori: Yunuo Chen, Tianyi Xie, Zeshun Zong, Xuan Li, Feng Gao, Yin Yang, Ying Nian Wu, Chenfanfu Jiang

cs.AI

Abstract

I metodi esistenti basati sulla diffusione per la generazione di testo-3D si concentrano principalmente sulla produzione di forme e aspetti visivamente realistici, spesso trascurando i vincoli fisici necessari per le attività successive. I modelli generati spesso non riescono a mantenere l'equilibrio quando vengono inseriti in simulazioni basate sulla fisica o stampati in 3D. Questo equilibrio è cruciale per soddisfare le intenzioni di progettazione dell'utente in contesti come i giochi interattivi, l'AI incarnata e la robotica, dove sono necessari modelli stabili per interazioni affidabili. Inoltre, i modelli stabili garantiscono che gli oggetti stampati in 3D, come le statuine per la decorazione domestica, possano stare in piedi da soli senza richiedere supporti aggiuntivi. Per colmare questa lacuna, introduciamo Atlas3D, un metodo automatico e di facile implementazione che migliora gli strumenti esistenti basati su Score Distillation Sampling (SDS) per la generazione di testo-3D. Atlas3D assicura la generazione di modelli 3D autoportanti che rispettano le leggi fisiche della stabilità sotto gravità, contatto e attrito. Il nostro approccio combina una nuova funzione di perdita basata su simulazione differenziabile con una regolarizzazione ispirata alla fisica, fungendo sia come modulo di raffinamento che di post-elaborazione per i framework esistenti. Verifichiamo l'efficacia di Atlas3D attraverso ampie attività di generazione e convalidiamo i modelli 3D risultanti sia in ambienti simulati che nel mondo reale.

English

Existing diffusion-based text-to-3D generation methods primarily focus on producing visually realistic shapes and appearances, often neglecting the physical constraints necessary for downstream tasks. Generated models frequently fail to maintain balance when placed in physics-based simulations or 3D printed. This balance is crucial for satisfying user design intentions in interactive gaming, embodied AI, and robotics, where stable models are needed for reliable interaction. Additionally, stable models ensure that 3D-printed objects, such as figurines for home decoration, can stand on their own without requiring additional supports. To fill this gap, we introduce Atlas3D, an automatic and easy-to-implement method that enhances existing Score Distillation Sampling (SDS)-based text-to-3D tools. Atlas3D ensures the generation of self-supporting 3D models that adhere to physical laws of stability under gravity, contact, and friction. Our approach combines a novel differentiable simulation-based loss function with physically inspired regularization, serving as either a refinement or a post-processing module for existing frameworks. We verify Atlas3D's efficacy through extensive generation tasks and validate the resulting 3D models in both simulated and real-world environments.