SAM 2: Сегментация любых объектов на изображениях и видео

SAM 2: Segment Anything in Images and Videos

August 1, 2024

Авторы: Nikhila Ravi, Valentin Gabeur, Yuan-Ting Hu, Ronghang Hu, Chaitanya Ryali, Tengyu Ma, Haitham Khedr, Roman Rädle, Chloe Rolland, Laura Gustafson, Eric Mintun, Junting Pan, Kalyan Vasudev Alwala, Nicolas Carion, Chao-Yuan Wu, Ross Girshick, Piotr Dollár, Christoph Feichtenhofer

cs.AI

Аннотация

Мы представляем модель Segment Anything Model 2 (SAM 2), базовую модель для решения задачи сегментации объектов на изображениях и видео по запросу. Мы создали движок для данных, который улучшает модель и данные с помощью взаимодействия с пользователем, чтобы собрать к настоящему времени самый крупный набор данных для сегментации видео. Наша модель представляет собой простую архитектуру трансформера с потоковой памятью для обработки видео в реальном времени. SAM 2, обученная на наших данных, демонстрирует высокую производительность в широком спектре задач. В задаче сегментации видео мы наблюдаем более высокую точность при использовании в 3 раза меньшего количества взаимодействий по сравнению с предыдущими подходами. В задаче сегментации изображений наша модель более точна и работает в 6 раз быстрее, чем модель Segment Anything Model (SAM). Мы убеждены, что наши данные, модель и исследования станут значительным этапом в области сегментации видео и смежных задач восприятия. Мы выпускаем версию нашей модели, набор данных и интерактивное демо.

English

We present Segment Anything Model 2 (SAM 2), a foundation model towards solving promptable visual segmentation in images and videos. We build a data engine, which improves model and data via user interaction, to collect the largest video segmentation dataset to date. Our model is a simple transformer architecture with streaming memory for real-time video processing. SAM 2 trained on our data provides strong performance across a wide range of tasks. In video segmentation, we observe better accuracy, using 3x fewer interactions than prior approaches. In image segmentation, our model is more accurate and 6x faster than the Segment Anything Model (SAM). We believe that our data, model, and insights will serve as a significant milestone for video segmentation and related perception tasks. We are releasing a version of our model, the dataset and an interactive demo.