SAM 2: Segmentación de cualquier cosa en imágenes y videos

SAM 2: Segment Anything in Images and Videos

August 1, 2024

Autores: Nikhila Ravi, Valentin Gabeur, Yuan-Ting Hu, Ronghang Hu, Chaitanya Ryali, Tengyu Ma, Haitham Khedr, Roman Rädle, Chloe Rolland, Laura Gustafson, Eric Mintun, Junting Pan, Kalyan Vasudev Alwala, Nicolas Carion, Chao-Yuan Wu, Ross Girshick, Piotr Dollár, Christoph Feichtenhofer

cs.AI

Resumen

Presentamos el Modelo Segment Anything 2 (SAM 2), un modelo base para abordar la segmentación visual solicitada en imágenes y videos. Hemos desarrollado un motor de datos que mejora el modelo y los datos a través de la interacción del usuario, para recopilar el conjunto de datos de segmentación de video más grande hasta la fecha. Nuestro modelo es una arquitectura simple de transformer con memoria en streaming para el procesamiento de video en tiempo real. SAM 2, entrenado con nuestros datos, proporciona un rendimiento sólido en una amplia gama de tareas. En la segmentación de video, observamos una mayor precisión, utilizando 3 veces menos interacciones que en enfoques anteriores. En la segmentación de imágenes, nuestro modelo es más preciso y 6 veces más rápido que el Modelo Segment Anything (SAM). Creemos que nuestros datos, modelo e ideas serán un hito significativo para la segmentación de video y tareas de percepción relacionadas. Estamos lanzando una versión de nuestro modelo, el conjunto de datos y una demostración interactiva.

English

We present Segment Anything Model 2 (SAM 2), a foundation model towards solving promptable visual segmentation in images and videos. We build a data engine, which improves model and data via user interaction, to collect the largest video segmentation dataset to date. Our model is a simple transformer architecture with streaming memory for real-time video processing. SAM 2 trained on our data provides strong performance across a wide range of tasks. In video segmentation, we observe better accuracy, using 3x fewer interactions than prior approaches. In image segmentation, our model is more accurate and 6x faster than the Segment Anything Model (SAM). We believe that our data, model, and insights will serve as a significant milestone for video segmentation and related perception tasks. We are releasing a version of our model, the dataset and an interactive demo.