SAM 2: Segmentar Qualquer Coisa em Imagens e Vídeos

SAM 2: Segment Anything in Images and Videos

August 1, 2024

Autores: Nikhila Ravi, Valentin Gabeur, Yuan-Ting Hu, Ronghang Hu, Chaitanya Ryali, Tengyu Ma, Haitham Khedr, Roman Rädle, Chloe Rolland, Laura Gustafson, Eric Mintun, Junting Pan, Kalyan Vasudev Alwala, Nicolas Carion, Chao-Yuan Wu, Ross Girshick, Piotr Dollár, Christoph Feichtenhofer

cs.AI

Resumo

Apresentamos o Segment Anything Model 2 (SAM 2), um modelo fundamental para resolver a segmentação visual solicitável em imagens e vídeos. Construímos um mecanismo de dados, que aprimora o modelo e os dados por meio da interação do usuário, para coletar o maior conjunto de dados de segmentação de vídeo até o momento. Nosso modelo é uma arquitetura de transformer simples com memória de fluxo para processamento de vídeo em tempo real. O SAM 2 treinado em nossos dados oferece um desempenho sólido em uma ampla gama de tarefas. Na segmentação de vídeo, observamos uma melhor precisão, usando 3 vezes menos interações do que abordagens anteriores. Na segmentação de imagem, nosso modelo é mais preciso e 6 vezes mais rápido do que o Segment Anything Model (SAM). Acreditamos que nossos dados, modelo e insights servirão como um marco significativo para a segmentação de vídeo e tarefas de percepção relacionadas. Estamos lançando uma versão de nosso modelo, o conjunto de dados e um demo interativo.

English

We present Segment Anything Model 2 (SAM 2), a foundation model towards solving promptable visual segmentation in images and videos. We build a data engine, which improves model and data via user interaction, to collect the largest video segmentation dataset to date. Our model is a simple transformer architecture with streaming memory for real-time video processing. SAM 2 trained on our data provides strong performance across a wide range of tasks. In video segmentation, we observe better accuracy, using 3x fewer interactions than prior approaches. In image segmentation, our model is more accurate and 6x faster than the Segment Anything Model (SAM). We believe that our data, model, and insights will serve as a significant milestone for video segmentation and related perception tasks. We are releasing a version of our model, the dataset and an interactive demo.