Hunyuan3D 2.0: Масштабирование моделей диффузии для генерации текстурированных 3D-объектов высокого разрешения

Hunyuan3D 2.0: Scaling Diffusion Models for High Resolution Textured 3D Assets Generation

January 21, 2025

Авторы: Zibo Zhao, Zeqiang Lai, Qingxiang Lin, Yunfei Zhao, Haolin Liu, Shuhui Yang, Yifei Feng, Mingxin Yang, Sheng Zhang, Xianghui Yang, Huiwen Shi, Sicong Liu, Junta Wu, Yihang Lian, Fan Yang, Ruining Tang, Zebin He, Xinzhou Wang, Jian Liu, Xuhui Zuo, Zhuo Chen, Biwen Lei, Haohan Weng, Jing Xu, Yiling Zhu, Xinhai Liu, Lixin Xu, Changrong Hu, Tianyu Huang, Lifu Wang, Jihong Zhang, Meng Chen, Liang Dong, Yiwen Jia, Yulin Cai, Jiaao Yu, Yixuan Tang, Hao Zhang, Zheng Ye, Peng He, Runzhou Wu, Chao Zhang, Yonghao Tan, Jie Xiao, Yangyu Tao, Jianchen Zhu, Jinbao Xue, Kai Liu, Chongqing Zhao, Xinming Wu, Zhichao Hu, Lei Qin, Jianbing Peng, Zhan Li, Minghui Chen, Xipeng Zhang, Lin Niu, Paige Wang, Yingkai Wang, Haozhao Kuang, Zhongyi Fan, Xu Zheng, Weihao Zhuang, YingPing He, Tian Liu, Yong Yang, Di Wang, Yuhong Liu, Jie Jiang, Jingwei Huang, Chunchao Guo

cs.AI

Аннотация

Мы представляем Hunyuan3D 2.0, передовую систему синтеза трехмерных объектов большого масштаба для создания трехмерных ресурсов высокого разрешения с текстурами. Эта система включает два основных компонента: модель генерации формы большого масштаба - Hunyuan3D-DiT, и модель синтеза текстуры большого масштаба - Hunyuan3D-Paint. Модель генерации формы, основанная на масштабируемом трансформере на основе потока диффузии, направлена на создание геометрии, которая правильно выравнивается с заданным изображением условий, заложив прочный фундамент для последующих приложений. Модель синтеза текстуры, благодаря сильным геометрическим и диффузионным априорным знаниям, производит текстурные карты высокого разрешения и яркие для сгенерированных или ручных сеток. Кроме того, мы создали Hunyuan3D-Studio - универсальную, удобную для пользователя платформу производства, которая упрощает процесс повторного создания трехмерных ресурсов. Она позволяет как профессиональным, так и любителям эффективно манипулировать или даже анимировать свои сетки. Мы систематически оценили наши модели, показав, что Hunyuan3D 2.0 превосходит предыдущие передовые модели, включая модели с открытым и закрытым исходным кодом, в деталях геометрии, выравнивании условий, качестве текстуры и т. д. Hunyuan3D 2.0 была общедоступно выпущена, чтобы заполнить пробелы в сообществе с открытым исходным кодом трехмерных объектов для моделей генерации фундамента большого масштаба. Код и предварительно обученные веса наших моделей доступны по ссылке: https://github.com/Tencent/Hunyuan3D-2

English

We present Hunyuan3D 2.0, an advanced large-scale 3D synthesis system for generating high-resolution textured 3D assets. This system includes two foundation components: a large-scale shape generation model -- Hunyuan3D-DiT, and a large-scale texture synthesis model -- Hunyuan3D-Paint. The shape generative model, built on a scalable flow-based diffusion transformer, aims to create geometry that properly aligns with a given condition image, laying a solid foundation for downstream applications. The texture synthesis model, benefiting from strong geometric and diffusion priors, produces high-resolution and vibrant texture maps for either generated or hand-crafted meshes. Furthermore, we build Hunyuan3D-Studio -- a versatile, user-friendly production platform that simplifies the re-creation process of 3D assets. It allows both professional and amateur users to manipulate or even animate their meshes efficiently. We systematically evaluate our models, showing that Hunyuan3D 2.0 outperforms previous state-of-the-art models, including the open-source models and closed-source models in geometry details, condition alignment, texture quality, and etc. Hunyuan3D 2.0 is publicly released in order to fill the gaps in the open-source 3D community for large-scale foundation generative models. The code and pre-trained weights of our models are available at: https://github.com/Tencent/Hunyuan3D-2