Immunizzazione del Modello da una Prospettiva del Numero di Condizionamento

Model Immunization from a Condition Number Perspective

May 29, 2025

Autori: Amber Yijia Zheng, Cedar Site Bai, Brian Bullins, Raymond A. Yeh

cs.AI

Abstract

L'immunizzazione dei modelli mira a pre-addestrare modelli che siano difficili da ottimizzare per compiti dannosi, pur mantenendo la loro utilità su altri compiti non dannosi. Sebbene lavori precedenti abbiano mostrato evidenze empiriche per l'immunizzazione di modelli testo-immagine, la comprensione chiave di quando l'immunizzazione è possibile e una definizione precisa di un modello immunizzato rimangono poco chiare. In questo lavoro, proponiamo un framework, basato sul numero di condizione di una matrice Hessiana, per analizzare l'immunizzazione dei modelli per modelli lineari. Basandoci su questo framework, progettiamo un algoritmo con termini di regolarizzazione per controllare i numeri di condizione risultanti dopo il pre-addestramento. I risultati empirici su modelli lineari e reti neurali non lineari dimostrano l'efficacia dell'algoritmo proposto per l'immunizzazione dei modelli. Il codice è disponibile all'indirizzo https://github.com/amberyzheng/model-immunization-cond-num.

English

Model immunization aims to pre-train models that are difficult to fine-tune on harmful tasks while retaining their utility on other non-harmful tasks. Though prior work has shown empirical evidence for immunizing text-to-image models, the key understanding of when immunization is possible and a precise definition of an immunized model remain unclear. In this work, we propose a framework, based on the condition number of a Hessian matrix, to analyze model immunization for linear models. Building on this framework, we design an algorithm with regularization terms to control the resulting condition numbers after pre-training. Empirical results on linear models and non-linear deep-nets demonstrate the effectiveness of the proposed algorithm on model immunization. The code is available at https://github.com/amberyzheng/model-immunization-cond-num.