Sparse Autoencoder lernen monosemantische Merkmale in Vision-Sprache-Modellen.

Sparse Autoencoders Learn Monosemantic Features in Vision-Language Models

April 3, 2025

Autoren: Mateusz Pach, Shyamgopal Karthik, Quentin Bouniot, Serge Belongie, Zeynep Akata

cs.AI

Zusammenfassung

Sparse Autoencoders (SAEs) haben kürzlich gezeigt, dass sie die Interpretierbarkeit und Steuerbarkeit von Large Language Models (LLMs) verbessern können. In dieser Arbeit erweitern wir die Anwendung von SAEs auf Vision-Language Models (VLMs), wie z.B. CLIP, und führen einen umfassenden Rahmen zur Bewertung der Monosemantizität in visuellen Repräsentationen ein. Unsere experimentellen Ergebnisse zeigen, dass SAEs, die auf VLMs trainiert werden, die Monosemantizität einzelner Neuronen signifikant verbessern und gleichzeitig hierarchische Repräsentationen aufweisen, die gut mit expertendefinierten Strukturen (z.B. iNaturalist-Taxonomie) übereinstimmen. Besonders bemerkenswert ist, dass wir demonstrieren, dass die Anwendung von SAEs zur Intervention in einem CLIP-Vision-Encoder die Ausgaben von multimodalen LLMs (z.B. LLaVA) direkt steuern kann, ohne dass Änderungen am zugrunde liegenden Modell vorgenommen werden müssen. Diese Ergebnisse unterstreichen die Praktikabilität und Wirksamkeit von SAEs als unüberwachter Ansatz zur Verbesserung sowohl der Interpretierbarkeit als auch der Kontrolle von VLMs.

English

Sparse Autoencoders (SAEs) have recently been shown to enhance interpretability and steerability in Large Language Models (LLMs). In this work, we extend the application of SAEs to Vision-Language Models (VLMs), such as CLIP, and introduce a comprehensive framework for evaluating monosemanticity in vision representations. Our experimental results reveal that SAEs trained on VLMs significantly enhance the monosemanticity of individual neurons while also exhibiting hierarchical representations that align well with expert-defined structures (e.g., iNaturalist taxonomy). Most notably, we demonstrate that applying SAEs to intervene on a CLIP vision encoder, directly steer output from multimodal LLMs (e.g., LLaVA) without any modifications to the underlying model. These findings emphasize the practicality and efficacy of SAEs as an unsupervised approach for enhancing both the interpretability and control of VLMs.