Ativação Condicionada para Direcionamento de Segurança em Texto para Imagem
Conditioned Activation Transport for T2I Safety Steering
March 3, 2026
Autores: Maciej Chrabąszcz, Aleksander Szymczyk, Jan Dubiński, Tomasz Trzciński, Franziska Boenisch, Adam Dziedzic
cs.AI
Resumo
Apesar de suas capacidades impressionantes, os modelos atuais de Texto para Imagem (T2I) permanecem propensos a gerar conteúdo inseguro e tóxico. Embora o direcionamento de ativação (activation steering) ofereça uma intervenção promissora em tempo de inferência, observamos que o direcionamento linear de ativação frequentemente degrada a qualidade da imagem quando aplicado a prompts benignos. Para resolver este compromisso (trade-off), primeiro construímos o SafeSteerDataset, um conjunto de dados contrastivo contendo 2300 pares de prompts seguros e inseguros com alta similaridade de cosseno. Aproveitando estes dados, propomos o Transporte de Ativação Condicionado (CAT), uma estrutura que emprega um mecanismo de condicionamento baseado em geometria e mapas de transporte não lineares. Ao condicionar os mapas de transporte para ativar apenas dentro de regiões de ativação inseguras, minimizamos a interferência em consultas benignas. Validamos nossa abordagem em duas arquiteturas de última geração: Z-Image e Infinity. Experimentos demonstram que o CAT generaliza-se eficazmente nessas bases, reduzindo significativamente a Taxa de Sucesso de Ataque enquanto mantém a fidelidade da imagem em comparação com as gerações não direcionadas. Aviso: Este artigo contém texto e imagens potencialmente ofensivos.
English
Despite their impressive capabilities, current Text-to-Image (T2I) models remain prone to generating unsafe and toxic content. While activation steering offers a promising inference-time intervention, we observe that linear activation steering frequently degrades image quality when applied to benign prompts. To address this trade-off, we first construct SafeSteerDataset, a contrastive dataset containing 2300 safe and unsafe prompt pairs with high cosine similarity. Leveraging this data, we propose Conditioned Activation Transport (CAT), a framework that employs a geometry-based conditioning mechanism and nonlinear transport maps. By conditioning transport maps to activate only within unsafe activation regions, we minimize interference with benign queries. We validate our approach on two state-of-the-art architectures: Z-Image and Infinity. Experiments demonstrate that CAT generalizes effectively across these backbones, significantly reducing Attack Success Rate while maintaining image fidelity compared to unsteered generations. Warning: This paper contains potentially offensive text and images.