MemPrivacy: Gerenciamento de Memória Personalizado com Preservação de Privacidade para Agentes de Borda e Nuvem

Resumo

À medida que agentes baseados em LLMs são cada vez mais implantados em ambientes de borda-nuvem, a memória personalizada tornou-se um habilitador essencial para adaptação de longo prazo e interação centrada no usuário. No entanto, o gerenciamento de memória assistido por nuvem expõe informações sensíveis do usuário, enquanto os métodos existentes de proteção de privacidade geralmente dependem de mascaramento agressivo que remove semântica relevante para a tarefa, degradando assim a utilidade da memória e a qualidade da personalização. Para enfrentar esse desafio, propomos o MemPrivacy, que identifica segmentos sensíveis à privacidade em dispositivos de borda, substitui-os por placeholders semanticamente estruturados e conscientes do tipo para processamento de memória na nuvem e restaura os valores originais localmente quando necessário. Ao dissociar a proteção da privacidade da destruição semântica, o MemPrivacy minimiza a exposição de dados sensíveis, mantendo as informações necessárias para a formação e recuperação eficaz da memória. Também construímos o MemPrivacy-Bench para avaliação sistemática, um conjunto de dados que abrange 200 usuários e mais de 52 mil instâncias de privacidade, e introduzimos uma taxonomia de privacidade de quatro níveis para políticas de proteção configuráveis. Experimentos mostram que o MemPrivacy alcança desempenho robusto na extração de informações de privacidade, superando substancialmente modelos de propósito geral fortes, como GPT-5.2 e Gemini-3.1-Pro, além de reduzir a latência de inferência. Em vários sistemas de memória amplamente utilizados, o MemPrivacy limita a perda de utilidade a menos de 1,6%, superando as estratégias de mascaramento de referência. No geral, o MemPrivacy oferece um equilíbrio eficaz entre proteção de privacidade e utilidade de memória personalizada para agentes de borda-nuvem, permitindo uma implantação segura, prática e transparente para o usuário.

English

As LLM-powered agents are increasingly deployed in edge-cloud environments, personalized memory has become a key enabler of long-term adaptation and user-centric interaction. However, cloud-assisted memory management exposes sensitive user information, while existing privacy protection methods typically rely on aggressive masking that removes task-relevant semantics and consequently degrades memory utility and personalization quality. To address this challenge, We propose MemPrivacy, which identifies privacy-sensitive spans on edge devices, replaces them with semantically structured type-aware placeholders for cloud-side memory processing, and restores the original values locally when needed. By decoupling privacy protection from semantic destruction, MemPrivacy minimizes sensitive data exposure while retaining the information required for effective memory formation and retrieval. We also construct MemPrivacy-Bench for systematic evaluation, a dataset covering 200 users and over 52k privacy instances, and introduce a four-level privacy taxonomy for configurable protection policies. Experiments show that MemPrivacy achieves strong performance in privacy information extraction, substantially surpassing strong general-purpose models such as GPT-5.2 and Gemini-3.1-Pro, while also reducing inference latency. Across multiple widely used memory systems, MemPrivacy limits utility loss to within 1.6%, outperforming baseline masking strategies. Overall, MemPrivacy offers an effective balance between privacy protection and personalized memory utility for edge-cloud agents, enabling secure, practical, and user-transparent deployment.