Desbloqueo con Multiprompts Universales

Jailbreaking with Universal Multi-Prompts

February 3, 2025

Autores: Yu-Ling Hsu, Hsuan Su, Shang-Tse Chen

cs.AI

Resumen

Los modelos de lenguaje grandes (LLMs) han experimentado un rápido desarrollo en los últimos años, revolucionando diversas aplicaciones y mejorando significativamente la comodidad y productividad. Sin embargo, junto con sus impresionantes capacidades, han surgido preocupaciones éticas y nuevos tipos de ataques, como el jailbreaking. Mientras que la mayoría de las técnicas de generación de texto se centran en optimizar las entradas adversarias para casos individuales, lo que resulta en mayores costos computacionales al tratar con conjuntos de datos grandes. Menos investigaciones se han ocupado del escenario más general de entrenar un atacante universal que pueda transferirse a tareas no vistas. En este documento, presentamos JUMP, un método basado en indicaciones diseñado para realizar jailbreak a LLMs utilizando multi-indicaciones universales. También adaptamos nuestro enfoque para la defensa, al que llamamos DUMP. Los resultados experimentales demuestran que nuestro método para optimizar multi-indicaciones universales supera a las técnicas existentes.

English

Large language models (LLMs) have seen rapid development in recent years, revolutionizing various applications and significantly enhancing convenience and productivity. However, alongside their impressive capabilities, ethical concerns and new types of attacks, such as jailbreaking, have emerged. While most prompting techniques focus on optimizing adversarial inputs for individual cases, resulting in higher computational costs when dealing with large datasets. Less research has addressed the more general setting of training a universal attacker that can transfer to unseen tasks. In this paper, we introduce JUMP, a prompt-based method designed to jailbreak LLMs using universal multi-prompts. We also adapt our approach for defense, which we term DUMP. Experimental results demonstrate that our method for optimizing universal multi-prompts outperforms existing techniques.