条件付き活性化輸送によるT2I安全性制御

要旨

優れた能力にもかかわらず、現在のテキストから画像（T2I）生成モデルは、不安全で有害なコンテンツを生成しがちな傾向が残っています。活性化ステアリングは推論時介入として有望な手法ですが、線形活性化ステアリングを無害なプロンプトに適用すると、画像品質が低下することが頻繁に観察されます。このトレードオフに対処するため、我々はまず、高いコサイン類似度を持つ安全/不安全なプロンプトペア2300組からなる対照データセットSafeSteerDatasetを構築しました。このデータを活用し、幾何学ベースの条件付け機構と非線形輸送写像を採用するConditioned Activation Transport（CAT）フレームワークを提案します。不安全な活性化領域内でのみ作動するように輸送写像を条件付けることで、無害なクエリへの干渉を最小限に抑えます。本手法を、Z-ImageとInfinityという2つの最先端アーキテクチャで検証します。実験により、CATがこれらのバックボーン間で効果的に一般化し、ステアリングなしの生成と比較して画像の忠実度を維持しつつ、攻撃成功率を大幅に低減できることを実証します。警告：本論文には不快な可能性のあるテキスト及び画像が含まれます。

English

Despite their impressive capabilities, current Text-to-Image (T2I) models remain prone to generating unsafe and toxic content. While activation steering offers a promising inference-time intervention, we observe that linear activation steering frequently degrades image quality when applied to benign prompts. To address this trade-off, we first construct SafeSteerDataset, a contrastive dataset containing 2300 safe and unsafe prompt pairs with high cosine similarity. Leveraging this data, we propose Conditioned Activation Transport (CAT), a framework that employs a geometry-based conditioning mechanism and nonlinear transport maps. By conditioning transport maps to activate only within unsafe activation regions, we minimize interference with benign queries. We validate our approach on two state-of-the-art architectures: Z-Image and Infinity. Experiments demonstrate that CAT generalizes effectively across these backbones, significantly reducing Attack Success Rate while maintaining image fidelity compared to unsteered generations. Warning: This paper contains potentially offensive text and images.

条件付き活性化輸送によるT2I安全性制御

Conditioned Activation Transport for T2I Safety Steering

要旨

Support