Systèmes de recommandation préservant la confidentialité avec génération de requêtes synthétiques utilisant des modèles de langage à grande échelle à différentielle privée
Privacy-Preserving Recommender Systems with Synthetic Query Generation using Differentially Private Large Language Models
May 10, 2023
Auteurs: Aldo Gael Carranza, Rezsa Farahani, Natalia Ponomareva, Alex Kurakin, Matthew Jagielski, Milad Nasr
cs.AI
Résumé
Nous proposons une nouvelle approche pour développer des systèmes de recommandation à grande échelle préservant la vie privée, en utilisant des modèles de langage de grande taille (LLM) à différentielle privée (DP), qui surmontent certains défis et limitations liés à l'entraînement DP de ces systèmes complexes. Notre méthode est particulièrement adaptée au domaine émergent des systèmes de recommandation basés sur les LLM, mais peut être facilement employée pour tout système de recommandation traitant des représentations d'entrées en langage naturel. Notre approche consiste à utiliser des méthodes d'entraînement DP pour affiner un LLM pré-entraîné publiquement sur une tâche de génération de requêtes. Le modèle résultant peut générer des requêtes synthétiques privées représentatives des requêtes originales, qui peuvent être librement partagées pour toute procédure d'entraînement de recommandation non privée en aval, sans engendrer de coût supplémentaire en matière de confidentialité. Nous évaluons notre méthode sur sa capacité à entraîner de manière sécurisée des modèles de récupération profonds efficaces, et nous observons des améliorations significatives dans leur qualité de récupération sans compromettre les garanties de confidentialité au niveau des requêtes, par rapport aux méthodes où les modèles de récupération sont directement entraînés avec DP.
English
We propose a novel approach for developing privacy-preserving large-scale
recommender systems using differentially private (DP) large language models
(LLMs) which overcomes certain challenges and limitations in DP training these
complex systems. Our method is particularly well suited for the emerging area
of LLM-based recommender systems, but can be readily employed for any
recommender systems that process representations of natural language inputs.
Our approach involves using DP training methods to fine-tune a publicly
pre-trained LLM on a query generation task. The resulting model can generate
private synthetic queries representative of the original queries which can be
freely shared for any downstream non-private recommendation training procedures
without incurring any additional privacy cost. We evaluate our method on its
ability to securely train effective deep retrieval models, and we observe
significant improvements in their retrieval quality without compromising
query-level privacy guarantees compared to methods where the retrieval models
are directly DP trained.