スパースオートエンコーダは視覚言語モデルにおいて単一意味的特徴を学習する

Sparse Autoencoders Learn Monosemantic Features in Vision-Language Models

April 3, 2025

著者: Mateusz Pach, Shyamgopal Karthik, Quentin Bouniot, Serge Belongie, Zeynep Akata

cs.AI

要旨

スパースオートエンコーダ（SAE）は最近、大規模言語モデル（LLM）の解釈可能性と制御性を向上させることが示されています。本研究では、SAEの応用をCLIPなどの視覚言語モデル（VLM）に拡張し、視覚表現における単義性を評価する包括的なフレームワークを導入します。実験結果から、VLMで訓練されたSAEは個々のニューロンの単義性を大幅に向上させると同時に、専門家が定義した構造（例：iNaturalistの分類体系）とよく一致する階層的表現を示すことが明らかになりました。特に注目すべきは、SAEをCLIPの視覚エンコーダに適用して介入することで、基盤となるモデルを変更することなく、マルチモーダルLLM（例：LLaVA）の出力を直接制御できることを実証した点です。これらの発見は、VLMの解釈可能性と制御性を向上させる教師なしアプローチとしてのSAEの実用性と有効性を強調しています。

English

Sparse Autoencoders (SAEs) have recently been shown to enhance interpretability and steerability in Large Language Models (LLMs). In this work, we extend the application of SAEs to Vision-Language Models (VLMs), such as CLIP, and introduce a comprehensive framework for evaluating monosemanticity in vision representations. Our experimental results reveal that SAEs trained on VLMs significantly enhance the monosemanticity of individual neurons while also exhibiting hierarchical representations that align well with expert-defined structures (e.g., iNaturalist taxonomy). Most notably, we demonstrate that applying SAEs to intervene on a CLIP vision encoder, directly steer output from multimodal LLMs (e.g., LLaVA) without any modifications to the underlying model. These findings emphasize the practicality and efficacy of SAEs as an unsupervised approach for enhancing both the interpretability and control of VLMs.