Sparse Autoencoders Leren Monosemantische Kenmerken in Vision-Taalmodellen

Sparse Autoencoders Learn Monosemantic Features in Vision-Language Models

April 3, 2025

Auteurs: Mateusz Pach, Shyamgopal Karthik, Quentin Bouniot, Serge Belongie, Zeynep Akata

cs.AI

Samenvatting

Sparse Autoencoders (SAEs) zijn recentelijk aangetoond als effectief voor het verbeteren van interpreteerbaarheid en stuurbaarheid in Large Language Models (LLMs). In dit werk breiden we de toepassing van SAEs uit naar Vision-Language Models (VLMs), zoals CLIP, en introduceren we een uitgebreid raamwerk voor het evalueren van monosemantie in visuele representaties. Onze experimentele resultaten laten zien dat SAEs die zijn getraind op VLMs de monosemantie van individuele neuronen aanzienlijk verbeteren, terwijl ze ook hiërarchische representaties vertonen die goed aansluiten bij door experts gedefinieerde structuren (bijv. iNaturalist-taxonomie). Opvallend is dat we aantonen dat het toepassen van SAEs om in te grijpen in een CLIP-visie-encoder, de output van multimodale LLMs (bijv. LLaVA) direct kan sturen zonder enige aanpassingen aan het onderliggende model. Deze bevindingen benadrukken de praktische bruikbaarheid en effectiviteit van SAEs als een onbewaakte aanpak voor het verbeteren van zowel de interpreteerbaarheid als de controle van VLMs.

English

Sparse Autoencoders (SAEs) have recently been shown to enhance interpretability and steerability in Large Language Models (LLMs). In this work, we extend the application of SAEs to Vision-Language Models (VLMs), such as CLIP, and introduce a comprehensive framework for evaluating monosemanticity in vision representations. Our experimental results reveal that SAEs trained on VLMs significantly enhance the monosemanticity of individual neurons while also exhibiting hierarchical representations that align well with expert-defined structures (e.g., iNaturalist taxonomy). Most notably, we demonstrate that applying SAEs to intervene on a CLIP vision encoder, directly steer output from multimodal LLMs (e.g., LLaVA) without any modifications to the underlying model. These findings emphasize the practicality and efficacy of SAEs as an unsupervised approach for enhancing both the interpretability and control of VLMs.