EfficientViT-SAM: Modelo Segment Anything Acelerado Sin Pérdida de Rendimiento

EfficientViT-SAM: Accelerated Segment Anything Model Without Performance Loss

February 7, 2024

Autores: Zhuoyang Zhang, Han Cai, Song Han

cs.AI

Resumen

Presentamos EfficientViT-SAM, una nueva familia de modelos acelerados para segmentar cualquier cosa. Mantenemos el codificador de indicaciones ligero y el decodificador de máscaras de SAM, mientras reemplazamos el pesado codificador de imágenes con EfficientViT. Para el entrenamiento, comenzamos con la destilación de conocimiento desde el codificador de imágenes SAM-ViT-H hacia EfficientViT. Posteriormente, realizamos un entrenamiento de extremo a extremo en el conjunto de datos SA-1B. Beneficiándose de la eficiencia y capacidad de EfficientViT, EfficientViT-SAM ofrece una aceleración de 48.9x medida con TensorRT en la GPU A100 en comparación con SAM-ViT-H, sin sacrificar el rendimiento. Nuestro código y modelos preentrenados están disponibles en https://github.com/mit-han-lab/efficientvit.

English

We present EfficientViT-SAM, a new family of accelerated segment anything models. We retain SAM's lightweight prompt encoder and mask decoder while replacing the heavy image encoder with EfficientViT. For the training, we begin with the knowledge distillation from the SAM-ViT-H image encoder to EfficientViT. Subsequently, we conduct end-to-end training on the SA-1B dataset. Benefiting from EfficientViT's efficiency and capacity, EfficientViT-SAM delivers 48.9x measured TensorRT speedup on A100 GPU over SAM-ViT-H without sacrificing performance. Our code and pre-trained models are released at https://github.com/mit-han-lab/efficientvit.