SAM2Point: Сегментация любых 3D-объектов как видео в условиях нулевого сэмплинга и с возможностью управления через промпты

SAM2Point: Segment Any 3D as Videos in Zero-shot and Promptable Manners

August 29, 2024

Авторы: Ziyu Guo, Renrui Zhang, Xiangyang Zhu, Chengzhuo Tong, Peng Gao, Chunyuan Li, Pheng-Ann Heng

cs.AI

Аннотация

Мы представляем SAM2Point — предварительное исследование, адаптирующее модель Segment Anything Model 2 (SAM 2) для задач сегментации в 3D с нулевым обучением и поддержкой подсказок. SAM2Point интерпретирует любые 3D-данные как серию многонаправленных видео и использует SAM 2 для сегментации в 3D-пространстве без дополнительного обучения или проекции 2D-3D. Наша система поддерживает различные типы подсказок, включая 3D-точки, ограничивающие рамки и маски, и способна обобщать данные в разнообразных сценариях, таких как 3D-объекты, интерьеры, открытые пространства и сырые разреженные данные LiDAR. Демонстрации на множестве 3D-наборов данных, таких как Objaverse, S3DIS, ScanNet, Semantic3D и KITTI, подчеркивают мощные возможности обобщения SAM2Point. Насколько нам известно, мы представляем наиболее точную реализацию SAM в 3D, которая может стать отправной точкой для будущих исследований в области сегментации с поддержкой подсказок. Онлайн-демо: https://huggingface.co/spaces/ZiyuG/SAM2Point. Код: https://github.com/ZiyuGuo99/SAM2Point.

English

We introduce SAM2Point, a preliminary exploration adapting Segment Anything Model 2 (SAM 2) for zero-shot and promptable 3D segmentation. SAM2Point interprets any 3D data as a series of multi-directional videos, and leverages SAM 2 for 3D-space segmentation, without further training or 2D-3D projection. Our framework supports various prompt types, including 3D points, boxes, and masks, and can generalize across diverse scenarios, such as 3D objects, indoor scenes, outdoor environments, and raw sparse LiDAR. Demonstrations on multiple 3D datasets, e.g., Objaverse, S3DIS, ScanNet, Semantic3D, and KITTI, highlight the robust generalization capabilities of SAM2Point. To our best knowledge, we present the most faithful implementation of SAM in 3D, which may serve as a starting point for future research in promptable 3D segmentation. Online Demo: https://huggingface.co/spaces/ZiyuG/SAM2Point . Code: https://github.com/ZiyuGuo99/SAM2Point .