Atlas3D: シミュレーションと製造のための物理的制約を考慮した自立型テキストto3D

Atlas3D: Physically Constrained Self-Supporting Text-to-3D for Simulation and Fabrication

May 28, 2024

著者: Yunuo Chen, Tianyi Xie, Zeshun Zong, Xuan Li, Feng Gao, Yin Yang, Ying Nian Wu, Chenfanfu Jiang

cs.AI

要旨

既存の拡散ベースのテキストから3D生成手法は、主に視覚的にリアルな形状や外観の生成に焦点を当てており、下流タスクに必要な物理的制約をしばしば無視しています。生成されたモデルは、物理ベースのシミュレーションや3Dプリント時にバランスを維持できないことが頻繁にあります。このバランスは、インタラクティブゲーム、エンボディードAI、ロボティクスといった分野で、ユーザーのデザイン意図を満たすために重要であり、安定したモデルが信頼性のあるインタラクションに必要とされます。さらに、安定したモデルは、ホームデコレーション用のフィギュアなどの3Dプリントされたオブジェクトが、追加のサポートを必要とせずに自立できることを保証します。このギャップを埋めるため、我々はAtlas3Dを導入します。これは、既存のスコア蒸留サンプリング（SDS）ベースのテキストから3Dツールを強化する、自動的で実装が容易な手法です。Atlas3Dは、重力、接触、摩擦の物理法則に従った自立可能な3Dモデルの生成を保証します。我々のアプローチは、新しい微分可能なシミュレーションベースの損失関数と物理的にインスパイアされた正則化を組み合わせ、既存のフレームワークのリファインメントまたは後処理モジュールとして機能します。我々は、広範な生成タスクを通じてAtlas3Dの有効性を検証し、シミュレーションおよび実世界環境で得られた3Dモデルを検証します。

English

Existing diffusion-based text-to-3D generation methods primarily focus on producing visually realistic shapes and appearances, often neglecting the physical constraints necessary for downstream tasks. Generated models frequently fail to maintain balance when placed in physics-based simulations or 3D printed. This balance is crucial for satisfying user design intentions in interactive gaming, embodied AI, and robotics, where stable models are needed for reliable interaction. Additionally, stable models ensure that 3D-printed objects, such as figurines for home decoration, can stand on their own without requiring additional supports. To fill this gap, we introduce Atlas3D, an automatic and easy-to-implement method that enhances existing Score Distillation Sampling (SDS)-based text-to-3D tools. Atlas3D ensures the generation of self-supporting 3D models that adhere to physical laws of stability under gravity, contact, and friction. Our approach combines a novel differentiable simulation-based loss function with physically inspired regularization, serving as either a refinement or a post-processing module for existing frameworks. We verify Atlas3D's efficacy through extensive generation tasks and validate the resulting 3D models in both simulated and real-world environments.