Системы рекомендаций с сохранением конфиденциальности и генерацией синтетических запросов с использованием крупных языковых моделей с дифференциальной приватностью
Privacy-Preserving Recommender Systems with Synthetic Query Generation using Differentially Private Large Language Models
May 10, 2023
Авторы: Aldo Gael Carranza, Rezsa Farahani, Natalia Ponomareva, Alex Kurakin, Matthew Jagielski, Milad Nasr
cs.AI
Аннотация
Мы предлагаем новый подход для разработки масштабируемых рекомендательных систем с сохранением конфиденциальности, использующих дифференциально приватные (DP) большие языковые модели (LLMs), который преодолевает определённые трудности и ограничения, связанные с DP-обучением таких сложных систем. Наш метод особенно хорошо подходит для развивающейся области рекомендательных систем на основе LLM, но может быть легко применён для любых рекомендательных систем, обрабатывающих представления входных данных на естественном языке. Наш подход предполагает использование методов DP-обучения для тонкой настройки публично предобученной LLM на задаче генерации запросов. Полученная модель способна генерировать приватные синтетические запросы, репрезентативные для исходных запросов, которые могут свободно использоваться для любых последующих процедур обучения рекомендательных систем без дополнительных затрат на приватность. Мы оцениваем наш метод с точки зрения возможности безопасного обучения эффективных моделей глубокого поиска и наблюдаем значительное улучшение их качества поиска без ущерба для гарантий приватности на уровне запросов по сравнению с методами, где модели поиска обучаются непосредственно с использованием DP.
English
We propose a novel approach for developing privacy-preserving large-scale
recommender systems using differentially private (DP) large language models
(LLMs) which overcomes certain challenges and limitations in DP training these
complex systems. Our method is particularly well suited for the emerging area
of LLM-based recommender systems, but can be readily employed for any
recommender systems that process representations of natural language inputs.
Our approach involves using DP training methods to fine-tune a publicly
pre-trained LLM on a query generation task. The resulting model can generate
private synthetic queries representative of the original queries which can be
freely shared for any downstream non-private recommendation training procedures
without incurring any additional privacy cost. We evaluate our method on its
ability to securely train effective deep retrieval models, and we observe
significant improvements in their retrieval quality without compromising
query-level privacy guarantees compared to methods where the retrieval models
are directly DP trained.