Sistemas de Recomendación que Preservan la Privacidad con Generación Sintética de Consultas utilizando Modelos de Lenguaje de Gran Escala con Privacidad Diferencial

Privacy-Preserving Recommender Systems with Synthetic Query Generation using Differentially Private Large Language Models

May 10, 2023

Autores: Aldo Gael Carranza, Rezsa Farahani, Natalia Ponomareva, Alex Kurakin, Matthew Jagielski, Milad Nasr

cs.AI

Resumen

Proponemos un enfoque novedoso para desarrollar sistemas de recomendación a gran escala que preservan la privacidad, utilizando modelos de lenguaje de gran escala (LLM) con privacidad diferencial (DP), lo que supera ciertos desafíos y limitaciones en el entrenamiento DP de estos sistemas complejos. Nuestro método es particularmente adecuado para el área emergente de sistemas de recomendación basados en LLM, pero puede emplearse fácilmente para cualquier sistema de recomendación que procese representaciones de entradas en lenguaje natural. Nuestro enfoque implica utilizar métodos de entrenamiento DP para ajustar un LLM preentrenado públicamente en una tarea de generación de consultas. El modelo resultante puede generar consultas sintéticas privadas representativas de las consultas originales, las cuales pueden compartirse libremente para cualquier procedimiento de entrenamiento de recomendación no privado sin incurrir en costos adicionales de privacidad. Evaluamos nuestro método en su capacidad para entrenar de manera segura modelos de recuperación profunda efectivos, y observamos mejoras significativas en su calidad de recuperación sin comprometer las garantías de privacidad a nivel de consulta en comparación con métodos donde los modelos de recuperación se entrenan directamente con DP.

English

We propose a novel approach for developing privacy-preserving large-scale recommender systems using differentially private (DP) large language models (LLMs) which overcomes certain challenges and limitations in DP training these complex systems. Our method is particularly well suited for the emerging area of LLM-based recommender systems, but can be readily employed for any recommender systems that process representations of natural language inputs. Our approach involves using DP training methods to fine-tune a publicly pre-trained LLM on a query generation task. The resulting model can generate private synthetic queries representative of the original queries which can be freely shared for any downstream non-private recommendation training procedures without incurring any additional privacy cost. We evaluate our method on its ability to securely train effective deep retrieval models, and we observe significant improvements in their retrieval quality without compromising query-level privacy guarantees compared to methods where the retrieval models are directly DP trained.