Snap-Snap: Воссоздание 3D-модели человека с использованием гауссовых распределений на основе двух изображений за миллисекунды

Snap-Snap: Taking Two Images to Reconstruct 3D Human Gaussians in Milliseconds

August 20, 2025

Авторы: Jia Lu, Taoran Yi, Jiemin Fang, Chen Yang, Chuiyun Wu, Wei Shen, Wenyu Liu, Qi Tian, Xinggang Wang

cs.AI

Аннотация

Реконструкция 3D-моделей человеческого тела на основе ограниченного числа изображений является актуальной задачей, которая имеет важное значение для расширения связанных приложений. В данной статье мы предлагаем сложную, но ценную задачу — реконструкцию человеческого тела всего по двум изображениям, а именно видам спереди и сзади, что может значительно снизить барьер для пользователей, желающих создавать свои собственные 3D-цифровые модели. Основные трудности заключаются в обеспечении 3D-согласованности и восстановлении недостающей информации из крайне ограниченных входных данных. Мы переработали модель геометрической реконструкции на основе базовых моделей, чтобы предсказывать согласованные облака точек даже при минимальном перекрытии входных изображений, благодаря обучению на обширных данных о человеке. Кроме того, применяется алгоритм улучшения для дополнения недостающей цветовой информации, после чего получаются полные облака точек человеческого тела с цветами, которые напрямую преобразуются в 3D-гауссовы распределения для повышения качества визуализации. Эксперименты показывают, что наш метод способен реконструировать полную модель человека за 190 мс на одной видеокарте NVIDIA RTX 4090, используя два изображения с разрешением 1024x1024, демонстрируя передовые результаты на наборах данных THuman2.0 и кросс-доменных данных. Кроме того, наш метод позволяет выполнять реконструкцию даже по изображениям, сделанным с помощью недорогих мобильных устройств, снижая требования к сбору данных. Демонстрации и код доступны по адресу https://hustvl.github.io/Snap-Snap/.

English

Reconstructing 3D human bodies from sparse views has been an appealing topic, which is crucial to broader the related applications. In this paper, we propose a quite challenging but valuable task to reconstruct the human body from only two images, i.e., the front and back view, which can largely lower the barrier for users to create their own 3D digital humans. The main challenges lie in the difficulty of building 3D consistency and recovering missing information from the highly sparse input. We redesign a geometry reconstruction model based on foundation reconstruction models to predict consistent point clouds even input images have scarce overlaps with extensive human data training. Furthermore, an enhancement algorithm is applied to supplement the missing color information, and then the complete human point clouds with colors can be obtained, which are directly transformed into 3D Gaussians for better rendering quality. Experiments show that our method can reconstruct the entire human in 190 ms on a single NVIDIA RTX 4090, with two images at a resolution of 1024x1024, demonstrating state-of-the-art performance on the THuman2.0 and cross-domain datasets. Additionally, our method can complete human reconstruction even with images captured by low-cost mobile devices, reducing the requirements for data collection. Demos and code are available at https://hustvl.github.io/Snap-Snap/.