Segmenta Cualquier Gaussiana 3D

Segment Any 3D Gaussians

December 1, 2023

Autores: Jiazhong Cen, Jiemin Fang, Chen Yang, Lingxi Xie, Xiaopeng Zhang, Wei Shen, Qi Tian

cs.AI

Resumen

La segmentación interactiva en 3D dentro de campos de radiancia es una tarea atractiva debido a su importancia en la comprensión y manipulación de escenas 3D. Sin embargo, los métodos existentes enfrentan desafíos para lograr una segmentación de grano fino y multi-granularidad o para manejar la sobrecarga computacional significativa, lo que dificulta la interacción en tiempo real. En este artículo, presentamos Segment Any 3D GAussians (SAGA), un novedoso enfoque de segmentación interactiva en 3D que combina de manera fluida un modelo base de segmentación 2D con el reciente avance en campos de radiancia conocido como 3D Gaussian Splatting (3DGS). SAGA integra eficientemente los resultados de segmentación 2D multi-granularidad generados por el modelo base de segmentación en las características de puntos Gaussianos 3D mediante un entrenamiento contrastivo bien diseñado. La evaluación en benchmarks existentes demuestra que SAGA puede alcanzar un rendimiento competitivo con los métodos más avanzados. Además, SAGA logra una segmentación multi-granularidad y se adapta a varios tipos de indicaciones, incluyendo puntos, trazos y máscaras 2D. Es destacable que SAGA puede completar la segmentación 3D en milisegundos, logrando una aceleración de casi 1000x en comparación con los métodos SOTA anteriores. La página del proyecto se encuentra en https://jumpat.github.io/SAGA.

English

Interactive 3D segmentation in radiance fields is an appealing task since its importance in 3D scene understanding and manipulation. However, existing methods face challenges in either achieving fine-grained, multi-granularity segmentation or contending with substantial computational overhead, inhibiting real-time interaction. In this paper, we introduce Segment Any 3D GAussians (SAGA), a novel 3D interactive segmentation approach that seamlessly blends a 2D segmentation foundation model with 3D Gaussian Splatting (3DGS), a recent breakthrough of radiance fields. SAGA efficiently embeds multi-granularity 2D segmentation results generated by the segmentation foundation model into 3D Gaussian point features through well-designed contrastive training. Evaluation on existing benchmarks demonstrates that SAGA can achieve competitive performance with state-of-the-art methods. Moreover, SAGA achieves multi-granularity segmentation and accommodates various prompts, including points, scribbles, and 2D masks. Notably, SAGA can finish the 3D segmentation within milliseconds, achieving nearly 1000x acceleration compared to previous SOTA. The project page is at https://jumpat.github.io/SAGA.