Sistemas de Recomendação com Preservação de Privacidade e Geração de Consultas Sintéticas Utilizando Modelos de Linguagem de Grande Escala com Privacidade Diferencial
Privacy-Preserving Recommender Systems with Synthetic Query Generation using Differentially Private Large Language Models
May 10, 2023
Autores: Aldo Gael Carranza, Rezsa Farahani, Natalia Ponomareva, Alex Kurakin, Matthew Jagielski, Milad Nasr
cs.AI
Resumo
Propomos uma abordagem inovadora para o desenvolvimento de sistemas de recomendação em larga escala que preservam a privacidade, utilizando modelos de linguagem de grande escala (LLMs) com privacidade diferencial (DP), superando certos desafios e limitações no treinamento DP desses sistemas complexos. Nosso método é particularmente adequado para a área emergente de sistemas de recomendação baseados em LLMs, mas pode ser facilmente empregado em qualquer sistema de recomendação que processe representações de entradas em linguagem natural. Nossa abordagem envolve o uso de métodos de treinamento DP para ajustar um LLM pré-treinado publicamente em uma tarefa de geração de consultas. O modelo resultante pode gerar consultas sintéticas privadas representativas das consultas originais, que podem ser livremente compartilhadas para qualquer procedimento de treinamento de recomendação não privado subsequente, sem incorrer em custos adicionais de privacidade. Avaliamos nosso método em sua capacidade de treinar de forma segura modelos de recuperação profunda eficazes, e observamos melhorias significativas na qualidade de recuperação sem comprometer as garantias de privacidade em nível de consulta, em comparação com métodos onde os modelos de recuperação são diretamente treinados com DP.
English
We propose a novel approach for developing privacy-preserving large-scale
recommender systems using differentially private (DP) large language models
(LLMs) which overcomes certain challenges and limitations in DP training these
complex systems. Our method is particularly well suited for the emerging area
of LLM-based recommender systems, but can be readily employed for any
recommender systems that process representations of natural language inputs.
Our approach involves using DP training methods to fine-tune a publicly
pre-trained LLM on a query generation task. The resulting model can generate
private synthetic queries representative of the original queries which can be
freely shared for any downstream non-private recommendation training procedures
without incurring any additional privacy cost. We evaluate our method on its
ability to securely train effective deep retrieval models, and we observe
significant improvements in their retrieval quality without compromising
query-level privacy guarantees compared to methods where the retrieval models
are directly DP trained.