PolicyShiftGuard: Benchmarking e Melhoria de Salvaguardas de Imagem Adaptativas a Políticas

Resumo

Guardrails de imagem são tipicamente treinados e avaliados sob uma política de segurança fixa, tratando implicitamente a segurança como uma propriedade intrínseca de uma imagem. Implantações reais são diferentes: a mesma imagem pode ser permitida em um produto, restrita em outro e recentemente proibida quando um limite de política é alterado. Estudamos a guardrail de imagem adaptável a políticas, onde um modelo deve decidir se uma imagem viola a política fornecida atualmente e generalizar para definições de política não observadas. Apresentamos o PolicyShiftBench, um benchmark abrangente com 2.000 instâncias discriminativas de política sobre 265 imagens, onde cada imagem é emparelhada com 7,55 prompts condicionados à política em média, para testar se os modelos se adaptam à política ativa em vez de depender de prioridades de segurança no nível da imagem. Em seguida, propomos o PolicyShiftGuard, uma guardrail compacta condicionada à política treinada com uma receita de treinamento em dois estágios que combina SFT de Política Randomizada (RP-SFT) com Adaptação de Política por Pares de Limites (BP-Adapt). O BP-Adapt treina prompts correspondentes para a mesma imagem e categoria de risco usando supervisão de rótulo padrão e uma perda de comparação pareada que separa políticas de bloqueio de políticas de aprovação. Experimentos mostram que VLMs existentes e guardrails especializadas permanecem frágeis sob mudanças de política, enquanto o PolicyShiftGuard melhora substancialmente o desempenho sensível à política. O modelo de 7B alcança desempenho state-of-the-art de 76,9 F1 médio e 72,1 PSS médio no PolicyShiftBench, transfere bem para UnSafeBench e SafeEditBench e melhora o trade-off latência-desempenho com um formato de saída conciso. Ablações confirmam que pares de limites de aprovação/bloqueio correspondentes são essenciais para adaptação estável de política.

English

Image guardrails are typically trained and evaluated under a fixed safety policy, implicitly treating safety as an intrinsic property of an image. Real deployments are different: the same image may be allowed in one product, restricted in another, and newly disallowed when a policy boundary changes. We study policy-adaptive image guardrailing, where a model must decide whether an image violates the currently supplied policy and generalize to held-out policy definitions. We introduce PolicyShiftBench, a comprehensive benchmark with 2,000 policy-discriminative instances over 265 images, where each image is paired with 7.55 policy-conditioned prompts on average to test whether models adapt to the active policy rather than relying on image-level safety priors. We then propose PolicyShiftGuard, a compact policy-conditioned guardrail trained with a two-stage training recipe that combines Randomized Policy SFT (RP-SFT) with Boundary-Pair Policy Adaptation (BP-Adapt). BP-Adapt trains matched prompts for the same image and risk category using standard label supervision and a pairwise comparison loss that separates blocking policies from passing policies. Experiments show that existing VLMs and specialized guardrails remain brittle under policy shifts, while PolicyShiftGuard substantially improves policy-sensitive performance. The 7B model achieves SOTA performance of 76.9 Avg. F1 and 72.1 Avg. PSS on PolicyShiftBench, transfers well to UnSafeBench and SafeEditBench, and improves the latency-performance trade-off with a concise output format. Ablations confirm that matched pass/block boundary pairs are essential for stable policy adaptation.