SAM2Point: Segmenteren van elke 3D-omgeving als video's op een zero-shot en promptbare manier

SAM2Point: Segment Any 3D as Videos in Zero-shot and Promptable Manners

August 29, 2024

Auteurs: Ziyu Guo, Renrui Zhang, Xiangyang Zhu, Chengzhuo Tong, Peng Gao, Chunyuan Li, Pheng-Ann Heng

cs.AI

Samenvatting

Wij introduceren SAM2Point, een eerste verkenning die het Segment Anything Model 2 (SAM 2) aanpast voor zero-shot en promptbare 3D-segmentatie. SAM2Point interpreteert elke 3D-data als een reeks multi-directionele video's en benut SAM 2 voor segmentatie in de 3D-ruimte, zonder aanvullende training of 2D-3D-projectie. Ons framework ondersteunt diverse prompttypes, waaronder 3D-punten, -kaders en -maskers, en kan generaliseren over uiteenlopende scenario's, zoals 3D-objecten, binnenruimtes, buitenomgevingen en ruwe, sparse LiDAR. Demonstraties op meerdere 3D-datasets, zoals Objaverse, S3DIS, ScanNet, Semantic3D en KITTI, benadrukken de robuuste generalisatiecapaciteiten van SAM2Point. Voor zover wij weten, presenteren wij de meest getrouwe implementatie van SAM in 3D, wat kan dienen als startpunt voor toekomstig onderzoek naar promptbare 3D-segmentatie. Online Demo: https://huggingface.co/spaces/ZiyuG/SAM2Point . Code: https://github.com/ZiyuGuo99/SAM2Point .

English

We introduce SAM2Point, a preliminary exploration adapting Segment Anything Model 2 (SAM 2) for zero-shot and promptable 3D segmentation. SAM2Point interprets any 3D data as a series of multi-directional videos, and leverages SAM 2 for 3D-space segmentation, without further training or 2D-3D projection. Our framework supports various prompt types, including 3D points, boxes, and masks, and can generalize across diverse scenarios, such as 3D objects, indoor scenes, outdoor environments, and raw sparse LiDAR. Demonstrations on multiple 3D datasets, e.g., Objaverse, S3DIS, ScanNet, Semantic3D, and KITTI, highlight the robust generalization capabilities of SAM2Point. To our best knowledge, we present the most faithful implementation of SAM in 3D, which may serve as a starting point for future research in promptable 3D segmentation. Online Demo: https://huggingface.co/spaces/ZiyuG/SAM2Point . Code: https://github.com/ZiyuGuo99/SAM2Point .