本質的に解釈可能な言語モデルのスケーリング

要旨

解釈可能性は、しばしば能力に対する課税として扱われる。言語モデルは不透明なシステムとして訓練され、その後、信頼性を確立することが難しい手法によって事後的に説明される。本研究では、この前提に挑戦する。モデルをリバースエンジニアリングするのではなく、解釈可能性を訓練パイプラインの制約条件とし、言語モデリングの目的関数とともに最適化する。自己回帰型および拡散型の両方の言語モデルにおいて、計算量の3桁にわたって、解釈可能性は能力に反するのではなく、能力とともにスケールする。驚くべきことに、モデルの表現はスケールとともにより分離され、人間が理解可能な概念と整合するようになる。我々は、因果的アテンションマスクを備えた拡散言語モデルSteerling-8Bを用いて、訓練時の手法を具体化する。Steerling-8Bは、生成された任意のトークン群について、出力を関連する入力トークン、人間が理解可能な概念、および訓練データに帰属させる。これにより閉ループ介入が可能になる。すなわち、出力を、その概念帰属または特徴帰属を通じて診断し、類似する訓練データを取得し、再訓練することなく概念ステアリングで挙動を修正できる。Steerling-8Bは、2〜16倍もの計算量で訓練された公開された同等規模のモデルと競争力を維持しており、異なるスケーリングパラダイムを示唆している。すなわち、解釈可能性は訓練に組み込むことができ、スケールとともに向上するのである。

English

Interpretability is often treated as a tax on capability: language models are trained as opaque systems, then explained after the fact, with methods whose reliability is difficult to establish. In this work, we challenge this premise. Rather than reverse-engineering a model, we make interpretability a constraint of the training pipeline, optimized alongside the language modeling objective. Across three orders of magnitude of compute, on both autoregressive and diffusion language models, interpretability scales with capability rather than against it. Surprisingly, model representations become more disentangled and aligned with human-understandable concepts with scale. We instantiate the training-time recipe with Steerling-8B, a diffusion language model with a causal attention mask. For any group of generated tokens, Steerling-8B attributes the output to relevant input tokens, human-understandable concepts, and training data. This enables closed-loop intervention: diagnose an output through its concept or feature attribution, retrieve similar training data, and correct the behavior through concept steering without retraining. Steerling-8B remains competitive with open peer models trained on substantially 2-16x more compute, suggesting a different scaling paradigm: interpretability can be designed into training, and it improves with scale.