MetaSC: Otimização da Especificação de Segurança no Momento do Teste para Modelos de Linguagem

MetaSC: Test-Time Safety Specification Optimization for Language Models

February 11, 2025

Autores: Víctor Gallego

cs.AI

Resumo

Propomos um novo framework dinâmico de segurança que otimiza o raciocínio de segurança do modelo de linguagem (LM) no momento da inferência sem modificar os pesos do modelo. Construindo sobre os avanços recentes em métodos de autocrítica, nossa abordagem utiliza um mecanismo de metacrítica que atualiza iterativamente prompts de segurança - denominados especificações - para conduzir o processo de crítica e revisão de forma adaptativa. Esta otimização em tempo de teste não apenas melhora o desempenho contra solicitações de violação de segurança adversárias, mas também em diversas tarefas gerais relacionadas à segurança, como evitar danos morais ou buscar respostas honestas. Nossas avaliações empíricas em vários modelos de linguagem demonstram que prompts de segurança otimizados dinamicamente resultam em pontuações de segurança significativamente mais altas em comparação com prompts de sistema fixos e defesas estáticas de autocrítica. O código será disponibilizado em https://github.com/vicgalle/meta-self-critique.git.

English

We propose a novel dynamic safety framework that optimizes language model (LM) safety reasoning at inference time without modifying model weights. Building on recent advances in self-critique methods, our approach leverages a meta-critique mechanism that iteratively updates safety prompts-termed specifications-to drive the critique and revision process adaptively. This test-time optimization not only improves performance against adversarial jailbreak requests but also in diverse general safety-related tasks, such as avoiding moral harm or pursuing honest responses. Our empirical evaluations across several language models demonstrate that dynamically optimized safety prompts yield significantly higher safety scores compared to fixed system prompts and static self-critique defenses. Code to be released at https://github.com/vicgalle/meta-self-critique.git .