MemPrivacy: персонализированное управление памятью с сохранением конфиденциальности для агентов Edge-Cloud
MemPrivacy: Privacy-Preserving Personalized Memory Management for Edge-Cloud Agents
May 10, 2026
Авторы: Yining Chen, Jihao Zhao, Bo Tang, Haofen Wang, Feiyu Xiong, Zhiyu Li
cs.AI
Аннотация
По мере все более широкого развертывания агентов на основе LLM в средах с пограничными и облачными вычислениями персонализированная память становится ключевым фактором долгосрочной адаптации и взаимодействия, ориентированного на пользователя. Однако облачная поддержка управления памятью раскрывает конфиденциальную информацию пользователей, в то время как существующие методы защиты конфиденциальности обычно опираются на агрессивное маскирование, которое удаляет релевантную задаче семантику и, как следствие, снижает полезность памяти и качество персонализации. Для решения этой проблемы мы предлагаем MemPrivacy, который выявляет конфиденциальные фрагменты на периферийных устройствах, заменяет их семантически структурированными заполнителями, учитывающими тип, для обработки памяти в облаке, а при необходимости восстанавливает исходные значения локально. Разделяя защиту конфиденциальности и разрушение семантики, MemPrivacy минимизирует раскрытие чувствительных данных, сохраняя при этом информацию, необходимую для эффективного формирования и извлечения памяти. Мы также создали MemPrivacy-Bench для систематической оценки — набор данных, охватывающий 200 пользователей и более 52 тыс. примеров конфиденциальности, и ввели четырехуровневую таксономию конфиденциальности для настраиваемых политик защиты. Эксперименты показывают, что MemPrivacy достигает высокой производительности в извлечении конфиденциальной информации, существенно превосходя сильные модели общего назначения, такие как GPT-5.2 и Gemini-3.1-Pro, а также снижает задержку вывода. В нескольких широко используемых системах памяти MemPrivacy ограничивает потерю полезности в пределах 1,6%, превосходя базовые стратегии маскирования. В целом, MemPrivacy обеспечивает эффективный баланс между защитой конфиденциальности и полезностью персонализированной памяти для периферийно-облачных агентов, позволяя осуществлять безопасное, практичное и прозрачное для пользователя развертывание.
English
As LLM-powered agents are increasingly deployed in edge-cloud environments, personalized memory has become a key enabler of long-term adaptation and user-centric interaction. However, cloud-assisted memory management exposes sensitive user information, while existing privacy protection methods typically rely on aggressive masking that removes task-relevant semantics and consequently degrades memory utility and personalization quality. To address this challenge, We propose MemPrivacy, which identifies privacy-sensitive spans on edge devices, replaces them with semantically structured type-aware placeholders for cloud-side memory processing, and restores the original values locally when needed. By decoupling privacy protection from semantic destruction, MemPrivacy minimizes sensitive data exposure while retaining the information required for effective memory formation and retrieval. We also construct MemPrivacy-Bench for systematic evaluation, a dataset covering 200 users and over 52k privacy instances, and introduce a four-level privacy taxonomy for configurable protection policies. Experiments show that MemPrivacy achieves strong performance in privacy information extraction, substantially surpassing strong general-purpose models such as GPT-5.2 and Gemini-3.1-Pro, while also reducing inference latency. Across multiple widely used memory systems, MemPrivacy limits utility loss to within 1.6%, outperforming baseline masking strategies. Overall, MemPrivacy offers an effective balance between privacy protection and personalized memory utility for edge-cloud agents, enabling secure, practical, and user-transparent deployment.