Protection des Données d'Entraînement avec des Modèles de Diffusion Compositionnels

Training Data Protection with Compositional Diffusion Models

August 2, 2023

papers.authors: Aditya Golatkar, Alessandro Achille, Ashwin Swaminathan, Stefano Soatto

cs.AI

papers.abstract

Nous présentons les Modèles de Diffusion Compartimentés (CDM), une méthode permettant d'entraîner différents modèles de diffusion (ou prompts) sur des sources de données distinctes et de les composer arbitrairement au moment de l'inférence. Les modèles individuels peuvent être entraînés de manière isolée, à différents moments, et sur des distributions et domaines variés, puis être combinés pour atteindre des performances comparables à celles d'un modèle de référence entraîné sur toutes les données simultanément. De plus, chaque modèle ne contient que des informations sur le sous-ensemble de données auquel il a été exposé pendant l'entraînement, ce qui permet plusieurs formes de protection des données d'entraînement. En particulier, les CDM sont la première méthode à permettre à la fois l'oubli sélectif et l'apprentissage continu pour les modèles de diffusion à grande échelle, tout en permettant de servir des modèles personnalisés en fonction des droits d'accès de l'utilisateur. Les CDM permettent également de déterminer l'importance d'un sous-ensemble de données dans la génération d'échantillons particuliers.

English

We introduce Compartmentalized Diffusion Models (CDM), a method to train different diffusion models (or prompts) on distinct data sources and arbitrarily compose them at inference time. The individual models can be trained in isolation, at different times, and on different distributions and domains and can be later composed to achieve performance comparable to a paragon model trained on all data simultaneously. Furthermore, each model only contains information about the subset of the data it was exposed to during training, enabling several forms of training data protection. In particular, CDMs are the first method to enable both selective forgetting and continual learning for large-scale diffusion models, as well as allowing serving customized models based on the user's access rights. CDMs also allow determining the importance of a subset of the data in generating particular samples.