Atlas3D: Физически ограниченное самонесущее преобразование текста в 3D для симуляции и изготовления

Atlas3D: Physically Constrained Self-Supporting Text-to-3D for Simulation and Fabrication

May 28, 2024

Авторы: Yunuo Chen, Tianyi Xie, Zeshun Zong, Xuan Li, Feng Gao, Yin Yang, Ying Nian Wu, Chenfanfu Jiang

cs.AI

Аннотация

Существующие методы генерации трехмерных моделей из текста на основе диффузии в основном сосредотачиваются на создании визуально реалистичных форм и внешнего вида, часто пренебрегая физическими ограничениями, необходимыми для последующих задач. Сгенерированные модели часто не удерживают равновесие при помещении в физические симуляции или при печати на 3D-принтере. Это равновесие критически важно для удовлетворения намерений пользователей в интерактивных играх, воплощенном искусственном интеллекте и робототехнике, где требуются устойчивые модели для надежного взаимодействия. Кроме того, устойчивые модели гарантируют, что трехмерные объекты, такие как фигурки для домашнего декора, могут стоять самостоятельно без необходимости дополнительных опор. Для заполнения этого пробела мы представляем Atlas3D, автоматический и легко реализуемый метод, который улучшает существующие инструменты генерации трехмерных моделей из текста на основе метода Score Distillation Sampling (SDS). Atlas3D обеспечивает создание самостоятельных трехмерных моделей, которые соответствуют физическим законам устойчивости под действием гравитации, контакта и трения. Наш подход объединяет новую функцию потерь на основе дифференцируемой симуляции с физически вдохновленной регуляризацией, служащей как модуль доработки, так и постобработки для существующих фреймворков. Мы проверяем эффективность Atlas3D через обширные задачи генерации и проверяем полученные трехмерные модели как в симулированных, так и в реальных средах.

English

Existing diffusion-based text-to-3D generation methods primarily focus on producing visually realistic shapes and appearances, often neglecting the physical constraints necessary for downstream tasks. Generated models frequently fail to maintain balance when placed in physics-based simulations or 3D printed. This balance is crucial for satisfying user design intentions in interactive gaming, embodied AI, and robotics, where stable models are needed for reliable interaction. Additionally, stable models ensure that 3D-printed objects, such as figurines for home decoration, can stand on their own without requiring additional supports. To fill this gap, we introduce Atlas3D, an automatic and easy-to-implement method that enhances existing Score Distillation Sampling (SDS)-based text-to-3D tools. Atlas3D ensures the generation of self-supporting 3D models that adhere to physical laws of stability under gravity, contact, and friction. Our approach combines a novel differentiable simulation-based loss function with physically inspired regularization, serving as either a refinement or a post-processing module for existing frameworks. We verify Atlas3D's efficacy through extensive generation tasks and validate the resulting 3D models in both simulated and real-world environments.