SAM 2: Alles in Bildern und Videos segmentieren

SAM 2: Segment Anything in Images and Videos

August 1, 2024

Autoren: Nikhila Ravi, Valentin Gabeur, Yuan-Ting Hu, Ronghang Hu, Chaitanya Ryali, Tengyu Ma, Haitham Khedr, Roman Rädle, Chloe Rolland, Laura Gustafson, Eric Mintun, Junting Pan, Kalyan Vasudev Alwala, Nicolas Carion, Chao-Yuan Wu, Ross Girshick, Piotr Dollár, Christoph Feichtenhofer

cs.AI

Zusammenfassung

Wir präsentieren das Segment Anything Model 2 (SAM 2), ein Grundlagenmodell zur Lösung der anweisbaren visuellen Segmentierung in Bildern und Videos. Wir haben eine Daten-Engine entwickelt, die das Modell und die Daten durch Benutzerinteraktion verbessert, um das bisher größte Videosegmentierungsdatenset zu sammeln. Unser Modell ist eine einfache Transformer-Architektur mit Streaming-Speicher für die Echtzeit-Videobearbeitung. SAM 2, trainiert mit unseren Daten, bietet eine starke Leistung über eine Vielzahl von Aufgaben hinweg. Bei der Videosegmentierung beobachten wir eine bessere Genauigkeit unter Verwendung von 3-mal weniger Interaktionen als bei früheren Ansätzen. Bei der Bildsegmentierung ist unser Modell genauer und 6-mal schneller als das Segment Anything Model (SAM). Wir sind der Meinung, dass unsere Daten, unser Modell und unsere Erkenntnisse einen bedeutenden Meilenstein für die Videosegmentierung und verwandte Wahrnehmungsaufgaben darstellen werden. Wir veröffentlichen eine Version unseres Modells, des Datensatzes und eine interaktive Demo.

English

We present Segment Anything Model 2 (SAM 2), a foundation model towards solving promptable visual segmentation in images and videos. We build a data engine, which improves model and data via user interaction, to collect the largest video segmentation dataset to date. Our model is a simple transformer architecture with streaming memory for real-time video processing. SAM 2 trained on our data provides strong performance across a wide range of tasks. In video segmentation, we observe better accuracy, using 3x fewer interactions than prior approaches. In image segmentation, our model is more accurate and 6x faster than the Segment Anything Model (SAM). We believe that our data, model, and insights will serve as a significant milestone for video segmentation and related perception tasks. We are releasing a version of our model, the dataset and an interactive demo.