Datenschutzbewahrende Empfehlungssysteme mit synthetischer Anfragenerzeugung unter Verwendung von differenziell privaten großen Sprachmodellen

Privacy-Preserving Recommender Systems with Synthetic Query Generation using Differentially Private Large Language Models

May 10, 2023

Autoren: Aldo Gael Carranza, Rezsa Farahani, Natalia Ponomareva, Alex Kurakin, Matthew Jagielski, Milad Nasr

cs.AI

Zusammenfassung

Wir schlagen einen neuartigen Ansatz zur Entwicklung von datenschutzbewahrenden, großskaligen Empfehlungssystemen vor, der differenziell private (DP) große Sprachmodelle (LLMs) verwendet und bestimmte Herausforderungen und Einschränkungen beim DP-Training dieser komplexen Systeme überwindet. Unser Verfahren eignet sich besonders gut für den aufstrebenden Bereich der LLM-basierten Empfehlungssysteme, kann jedoch problemlos für alle Empfehlungssysteme eingesetzt werden, die Repräsentationen natürlicher Spracheingaben verarbeiten. Unser Ansatz beinhaltet die Verwendung von DP-Trainingsmethoden, um ein öffentlich vortrainiertes LLM für eine Abfragegenerierungsaufgabe zu feinabzustimmen. Das resultierende Modell kann private synthetische Abfragen erzeugen, die repräsentativ für die ursprünglichen Abfragen sind und frei für nachgelagerte nicht-private Empfehlungstrainingsverfahren geteilt werden können, ohne zusätzliche Datenschutzkosten zu verursachen. Wir bewerten unsere Methode hinsichtlich ihrer Fähigkeit, effektive Deep-Retrieval-Modelle sicher zu trainieren, und beobachten signifikante Verbesserungen in deren Retrieval-Qualität, ohne die Abfrageebenen-Datenschutzgarantien zu beeinträchtigen, im Vergleich zu Methoden, bei denen die Retrieval-Modelle direkt DP trainiert werden.

English

We propose a novel approach for developing privacy-preserving large-scale recommender systems using differentially private (DP) large language models (LLMs) which overcomes certain challenges and limitations in DP training these complex systems. Our method is particularly well suited for the emerging area of LLM-based recommender systems, but can be readily employed for any recommender systems that process representations of natural language inputs. Our approach involves using DP training methods to fine-tune a publicly pre-trained LLM on a query generation task. The resulting model can generate private synthetic queries representative of the original queries which can be freely shared for any downstream non-private recommendation training procedures without incurring any additional privacy cost. We evaluate our method on its ability to securely train effective deep retrieval models, and we observe significant improvements in their retrieval quality without compromising query-level privacy guarantees compared to methods where the retrieval models are directly DP trained.