MixRT: Representaciones Neuronales Mixtas para Renderizado en Tiempo Real con NeRF

MixRT: Mixed Neural Representations For Real-Time NeRF Rendering

December 19, 2023

Autores: Chaojian Li, Bichen Wu, Peter Vajda, Yingyan, Lin

cs.AI

Resumen

Neural Radiance Field (NeRF) ha surgido como una técnica líder para la síntesis de nuevas vistas, gracias a su impresionante capacidad de reconstrucción y renderizado fotorrealista. Sin embargo, lograr el renderizado en tiempo real de NeRF en escenas a gran escala ha presentado desafíos, lo que a menudo ha llevado a la adopción de representaciones de mallas complejas con un número sustancial de triángulos o a un costoso trazado de rayos en representaciones precalculadas. Cuestionamos estas convenciones, observando que una geometría de alta calidad, representada por mallas con un gran número de triángulos, no es necesaria para alcanzar una calidad de renderizado fotorrealista. En consecuencia, proponemos MixRT, una nueva representación de NeRF que incluye una malla de baja calidad, un mapa de desplazamiento dependiente de la vista y un modelo de NeRF comprimido. Este diseño aprovecha eficazmente las capacidades del hardware gráfico existente, permitiendo así el renderizado en tiempo real de NeRF en dispositivos de borde. Utilizando un marco de renderizado altamente optimizado basado en WebGL, nuestro MixRT propuesto alcanza velocidades de renderizado en tiempo real en dispositivos de borde (más de 30 FPS a una resolución de 1280 x 720 en un portátil MacBook M1 Pro), una mejor calidad de renderizado (0.2 PSNR más alto en escenas interiores de los conjuntos de datos Unbounded-360) y un tamaño de almacenamiento más reducido (menos del 80% en comparación con los métodos más avanzados).

English

Neural Radiance Field (NeRF) has emerged as a leading technique for novel view synthesis, owing to its impressive photorealistic reconstruction and rendering capability. Nevertheless, achieving real-time NeRF rendering in large-scale scenes has presented challenges, often leading to the adoption of either intricate baked mesh representations with a substantial number of triangles or resource-intensive ray marching in baked representations. We challenge these conventions, observing that high-quality geometry, represented by meshes with substantial triangles, is not necessary for achieving photorealistic rendering quality. Consequently, we propose MixRT, a novel NeRF representation that includes a low-quality mesh, a view-dependent displacement map, and a compressed NeRF model. This design effectively harnesses the capabilities of existing graphics hardware, thus enabling real-time NeRF rendering on edge devices. Leveraging a highly-optimized WebGL-based rendering framework, our proposed MixRT attains real-time rendering speeds on edge devices (over 30 FPS at a resolution of 1280 x 720 on a MacBook M1 Pro laptop), better rendering quality (0.2 PSNR higher in indoor scenes of the Unbounded-360 datasets), and a smaller storage size (less than 80% compared to state-of-the-art methods).