Sistemi di Raccomandazione con Preservazione della Privacy tramite Generazione Sintetica di Query utilizzando Modelli Linguistici di Grande Dimensione con Differenziale Privacy

Privacy-Preserving Recommender Systems with Synthetic Query Generation using Differentially Private Large Language Models

May 10, 2023

Autori: Aldo Gael Carranza, Rezsa Farahani, Natalia Ponomareva, Alex Kurakin, Matthew Jagielski, Milad Nasr

cs.AI

Abstract

Proponiamo un approccio innovativo per lo sviluppo di sistemi di raccomandazione su larga scala che preservano la privacy, utilizzando modelli linguistici di grandi dimensioni (LLM) con privacy differenziale (DP), superando alcune sfide e limitazioni nell'addestramento DP di questi sistemi complessi. Il nostro metodo è particolarmente adatto per l'area emergente dei sistemi di raccomandazione basati su LLM, ma può essere facilmente impiegato per qualsiasi sistema di raccomandazione che elabora rappresentazioni di input in linguaggio naturale. Il nostro approccio prevede l'utilizzo di metodi di addestramento DP per affinare un LLM pre-addestrato pubblicamente su un'attività di generazione di query. Il modello risultante può generare query sintetiche private rappresentative delle query originali, che possono essere condivise liberamente per qualsiasi procedura di addestramento di raccomandazione non privata a valle, senza incorrere in ulteriori costi di privacy. Valutiamo il nostro metodo sulla sua capacità di addestrare in modo sicuro modelli di recupero profondo efficaci, e osserviamo miglioramenti significativi nella qualità del recupero senza compromettere le garanzie di privacy a livello di query rispetto ai metodi in cui i modelli di recupero sono addestrati direttamente con DP.

English

We propose a novel approach for developing privacy-preserving large-scale recommender systems using differentially private (DP) large language models (LLMs) which overcomes certain challenges and limitations in DP training these complex systems. Our method is particularly well suited for the emerging area of LLM-based recommender systems, but can be readily employed for any recommender systems that process representations of natural language inputs. Our approach involves using DP training methods to fine-tune a publicly pre-trained LLM on a query generation task. The resulting model can generate private synthetic queries representative of the original queries which can be freely shared for any downstream non-private recommendation training procedures without incurring any additional privacy cost. We evaluate our method on its ability to securely train effective deep retrieval models, and we observe significant improvements in their retrieval quality without compromising query-level privacy guarantees compared to methods where the retrieval models are directly DP trained.