EfficientViT-SAM: Versneld Segment Anything Model Zonder Prestatieverlies

EfficientViT-SAM: Accelerated Segment Anything Model Without Performance Loss

February 7, 2024

Auteurs: Zhuoyang Zhang, Han Cai, Song Han

cs.AI

Samenvatting

We presenteren EfficientViT-SAM, een nieuwe familie van versnelde 'segment anything'-modellen. We behouden de lichtgewicht prompt-encoder en masker-decoder van SAM, terwijl we de zware beeldencoder vervangen door EfficientViT. Voor de training beginnen we met kennisdistillatie van de SAM-ViT-H beeldencoder naar EfficientViT. Vervolgens voeren we end-to-end training uit op de SA-1B dataset. Dankzij de efficiëntie en capaciteit van EfficientViT, levert EfficientViT-SAM een gemeten TensorRT-versnelling van 48.9x op de A100 GPU ten opzichte van SAM-ViT-H, zonder in te leveren op prestaties. Onze code en vooraf getrainde modellen zijn vrijgegeven op https://github.com/mit-han-lab/efficientvit.

English

We present EfficientViT-SAM, a new family of accelerated segment anything models. We retain SAM's lightweight prompt encoder and mask decoder while replacing the heavy image encoder with EfficientViT. For the training, we begin with the knowledge distillation from the SAM-ViT-H image encoder to EfficientViT. Subsequently, we conduct end-to-end training on the SA-1B dataset. Benefiting from EfficientViT's efficiency and capacity, EfficientViT-SAM delivers 48.9x measured TensorRT speedup on A100 GPU over SAM-ViT-H without sacrificing performance. Our code and pre-trained models are released at https://github.com/mit-han-lab/efficientvit.