SAM 2: Segmentazione di Oggetti in Immagini e Video

SAM 2: Segment Anything in Images and Videos

August 1, 2024

Autori: Nikhila Ravi, Valentin Gabeur, Yuan-Ting Hu, Ronghang Hu, Chaitanya Ryali, Tengyu Ma, Haitham Khedr, Roman Rädle, Chloe Rolland, Laura Gustafson, Eric Mintun, Junting Pan, Kalyan Vasudev Alwala, Nicolas Carion, Chao-Yuan Wu, Ross Girshick, Piotr Dollár, Christoph Feichtenhofer

cs.AI

Abstract

Presentiamo Segment Anything Model 2 (SAM 2), un modello di base orientato alla risoluzione della segmentazione visiva guidata da prompt in immagini e video. Abbiamo sviluppato un motore di dati, che migliora il modello e i dati attraverso l'interazione dell'utente, per raccogliere il più grande dataset di segmentazione video fino ad oggi. Il nostro modello è un'architettura transformer semplice dotata di memoria in streaming per l'elaborazione video in tempo reale. SAM 2, addestrato sui nostri dati, offre prestazioni solide in un'ampia gamma di task. Nella segmentazione video, osserviamo una maggiore accuratezza, utilizzando 3 volte meno interazioni rispetto agli approcci precedenti. Nella segmentazione di immagini, il nostro modello è più preciso e 6 volte più veloce rispetto al Segment Anything Model (SAM). Crediamo che i nostri dati, il modello e le intuizioni rappresenteranno una pietra miliare significativa per la segmentazione video e le task di percezione correlate. Stiamo rilasciando una versione del nostro modello, il dataset e una demo interattiva.

English

We present Segment Anything Model 2 (SAM 2), a foundation model towards solving promptable visual segmentation in images and videos. We build a data engine, which improves model and data via user interaction, to collect the largest video segmentation dataset to date. Our model is a simple transformer architecture with streaming memory for real-time video processing. SAM 2 trained on our data provides strong performance across a wide range of tasks. In video segmentation, we observe better accuracy, using 3x fewer interactions than prior approaches. In image segmentation, our model is more accurate and 6x faster than the Segment Anything Model (SAM). We believe that our data, model, and insights will serve as a significant milestone for video segmentation and related perception tasks. We are releasing a version of our model, the dataset and an interactive demo.