Hunyuan3D 2.0 : Mise à l'échelle des modèles de diffusion pour la génération d'actifs 3D texturés haute résolution

Hunyuan3D 2.0: Scaling Diffusion Models for High Resolution Textured 3D Assets Generation

January 21, 2025

Auteurs: Zibo Zhao, Zeqiang Lai, Qingxiang Lin, Yunfei Zhao, Haolin Liu, Shuhui Yang, Yifei Feng, Mingxin Yang, Sheng Zhang, Xianghui Yang, Huiwen Shi, Sicong Liu, Junta Wu, Yihang Lian, Fan Yang, Ruining Tang, Zebin He, Xinzhou Wang, Jian Liu, Xuhui Zuo, Zhuo Chen, Biwen Lei, Haohan Weng, Jing Xu, Yiling Zhu, Xinhai Liu, Lixin Xu, Changrong Hu, Tianyu Huang, Lifu Wang, Jihong Zhang, Meng Chen, Liang Dong, Yiwen Jia, Yulin Cai, Jiaao Yu, Yixuan Tang, Hao Zhang, Zheng Ye, Peng He, Runzhou Wu, Chao Zhang, Yonghao Tan, Jie Xiao, Yangyu Tao, Jianchen Zhu, Jinbao Xue, Kai Liu, Chongqing Zhao, Xinming Wu, Zhichao Hu, Lei Qin, Jianbing Peng, Zhan Li, Minghui Chen, Xipeng Zhang, Lin Niu, Paige Wang, Yingkai Wang, Haozhao Kuang, Zhongyi Fan, Xu Zheng, Weihao Zhuang, YingPing He, Tian Liu, Yong Yang, Di Wang, Yuhong Liu, Jie Jiang, Jingwei Huang, Chunchao Guo

cs.AI

Résumé

Nous présentons Hunyuan3D 2.0, un système avancé de synthèse 3D à grande échelle pour générer des actifs 3D texturés haute résolution. Ce système comprend deux composants fondamentaux : un modèle de génération de forme à grande échelle - Hunyuan3D-DiT, et un modèle de synthèse de texture à grande échelle - Hunyuan3D-Paint. Le modèle de génération de forme, basé sur un transformateur de diffusion à flux évolutif, vise à créer une géométrie qui s'aligne correctement avec une image de condition donnée, posant ainsi des bases solides pour les applications en aval. Le modèle de synthèse de texture, bénéficiant de forts a priori géométriques et de diffusion, produit des cartes de texture haute résolution et vibrantes pour des maillages générés ou fabriqués à la main. De plus, nous avons développé Hunyuan3D-Studio - une plateforme de production polyvalente et conviviale qui simplifie le processus de recréation des actifs 3D. Elle permet aux utilisateurs professionnels et amateurs de manipuler voire d'animer efficacement leurs maillages. Nous évaluons systématiquement nos modèles, démontrant que Hunyuan3D 2.0 surpasse les modèles précédents de pointe, y compris les modèles open-source et les modèles propriétaires en termes de détails géométriques, d'alignement des conditions, de qualité de texture, etc. Hunyuan3D 2.0 est publié publiquement afin de combler les lacunes dans la communauté open-source 3D pour les modèles génératifs de base à grande échelle. Le code et les poids pré-entraînés de nos modèles sont disponibles sur : https://github.com/Tencent/Hunyuan3D-2

English

We present Hunyuan3D 2.0, an advanced large-scale 3D synthesis system for generating high-resolution textured 3D assets. This system includes two foundation components: a large-scale shape generation model -- Hunyuan3D-DiT, and a large-scale texture synthesis model -- Hunyuan3D-Paint. The shape generative model, built on a scalable flow-based diffusion transformer, aims to create geometry that properly aligns with a given condition image, laying a solid foundation for downstream applications. The texture synthesis model, benefiting from strong geometric and diffusion priors, produces high-resolution and vibrant texture maps for either generated or hand-crafted meshes. Furthermore, we build Hunyuan3D-Studio -- a versatile, user-friendly production platform that simplifies the re-creation process of 3D assets. It allows both professional and amateur users to manipulate or even animate their meshes efficiently. We systematically evaluate our models, showing that Hunyuan3D 2.0 outperforms previous state-of-the-art models, including the open-source models and closed-source models in geometry details, condition alignment, texture quality, and etc. Hunyuan3D 2.0 is publicly released in order to fill the gaps in the open-source 3D community for large-scale foundation generative models. The code and pre-trained weights of our models are available at: https://github.com/Tencent/Hunyuan3D-2