Условно-активируемый транспорт для управления безопасностью T2I

Conditioned Activation Transport for T2I Safety Steering

March 3, 2026

Авторы: Maciej Chrabąszcz, Aleksander Szymczyk, Jan Dubiński, Tomasz Trzciński, Franziska Boenisch, Adam Dziedzic

cs.AI

Аннотация

Несмотря на впечатляющие возможности, современные модели преобразования текста в изображение (T2I) по-прежнему склонны генерировать небезопасный и токсичный контент. Хотя управление активацией (activation steering) представляет собой перспективный метод вмешательства на этапе вывода, мы наблюдаем, что линейное управление активацией часто ухудшает качество изображения при обработке безобидных промптов. Для решения этой проблемы мы сначала создали SafeSteerDataset — контрастный набор данных, содержащий 2300 пар безопасных и небезопасных промптов с высокой косинусной схожестью. Используя эти данные, мы предлагаем Conditioned Activation Transport (CAT) — фреймворк, который использует механизм conditioning на основе геометрических принципов и нелинейные карты транспорта (transport maps). Благодаря conditioning карт транспорта на активацию только в областях небезопасных активаций мы минимизируем вмешательство в обработку безвредных запросов. Мы проверяем наш подход на двух передовых архитектурах: Z-Image и Infinity. Эксперименты показывают, что CAT эффективно обобщается на эти базовые модели, значительно снижая коэффициент успешности атаки (Attack Success Rate) при сохранении fidelity изображения по сравнению с неуправляемыми генерациями. Внимание: данная статья содержит потенциально оскорбительные тексты и изображения.

English

Despite their impressive capabilities, current Text-to-Image (T2I) models remain prone to generating unsafe and toxic content. While activation steering offers a promising inference-time intervention, we observe that linear activation steering frequently degrades image quality when applied to benign prompts. To address this trade-off, we first construct SafeSteerDataset, a contrastive dataset containing 2300 safe and unsafe prompt pairs with high cosine similarity. Leveraging this data, we propose Conditioned Activation Transport (CAT), a framework that employs a geometry-based conditioning mechanism and nonlinear transport maps. By conditioning transport maps to activate only within unsafe activation regions, we minimize interference with benign queries. We validate our approach on two state-of-the-art architectures: Z-Image and Infinity. Experiments demonstrate that CAT generalizes effectively across these backbones, significantly reducing Attack Success Rate while maintaining image fidelity compared to unsteered generations. Warning: This paper contains potentially offensive text and images.