EfficientViT-SAM : Modèle Segment Anything Accéléré Sans Perte de Performance

EfficientViT-SAM: Accelerated Segment Anything Model Without Performance Loss

February 7, 2024

Auteurs: Zhuoyang Zhang, Han Cai, Song Han

cs.AI

Résumé

Nous présentons EfficientViT-SAM, une nouvelle famille de modèles accélérés pour la segmentation universelle. Nous conservons l'encodeur de prompt léger et le décodeur de masque de SAM tout en remplaçant l'encodeur d'image lourd par EfficientViT. Pour l'entraînement, nous commençons par une distillation de connaissances à partir de l'encodeur d'image SAM-ViT-H vers EfficientViT. Ensuite, nous effectuons un entraînement de bout en bout sur le jeu de données SA-1B. Grâce à l'efficacité et à la capacité d'EfficientViT, EfficientViT-SAM offre une accélération mesurée de 48,9x avec TensorRT sur un GPU A100 par rapport à SAM-ViT-H, sans compromettre les performances. Notre code et nos modèles pré-entraînés sont disponibles à l'adresse https://github.com/mit-han-lab/efficientvit.

English

We present EfficientViT-SAM, a new family of accelerated segment anything models. We retain SAM's lightweight prompt encoder and mask decoder while replacing the heavy image encoder with EfficientViT. For the training, we begin with the knowledge distillation from the SAM-ViT-H image encoder to EfficientViT. Subsequently, we conduct end-to-end training on the SA-1B dataset. Benefiting from EfficientViT's efficiency and capacity, EfficientViT-SAM delivers 48.9x measured TensorRT speedup on A100 GPU over SAM-ViT-H without sacrificing performance. Our code and pre-trained models are released at https://github.com/mit-han-lab/efficientvit.