MemPrivacy: 에지-클라우드 에이전트를 위한 프라이버시 보존 개인화 메모리 관리

MemPrivacy: Privacy-Preserving Personalized Memory Management for Edge-Cloud Agents

May 10, 2026

저자: Yining Chen, Jihao Zhao, Bo Tang, Haofen Wang, Feiyu Xiong, Zhiyu Li

cs.AI

초록

LLM 기반 에이전트가 에지-클라우드 환경에 점점 더 배치됨에 따라, 개인화된 메모리는 장기적 적응과 사용자 중심 상호작용을 가능하게 하는 핵심 요소가 되었다. 그러나 클라우드 보조 메모리 관리는 민감한 사용자 정보를 노출하는 반면, 기존의 프라이버시 보호 방법은 일반적으로 작업 관련 의미를 제거하는 공격적인 마스킹에 의존하여 결과적으로 메모리 유용성과 개인화 품질을 저하시킨다. 이러한 문제를 해결하기 위해, 우리는 MemPrivacy를 제안한다. 이는 에지 디바이스에서 프라이버시에 민감한 구간을 식별하고, 이를 클라우드 측 메모리 처리를 위한 의미적으로 구조화된 유형 인식 플레이스홀더로 대체하며, 필요 시 로컬에서 원래 값을 복원한다. 프라이버시 보호와 의미론적 파괴를 분리함으로써, MemPrivacy는 효과적인 메모리 형성 및 검색에 필요한 정보를 유지하면서 민감한 데이터 노출을 최소화한다. 또한 체계적 평가를 위한 MemPrivacy-Bench를 구축하였는데, 이는 200명의 사용자와 52,000개 이상의 프라이버시 인스턴스를 포함하는 데이터셋이며, 구성 가능한 보호 정책을 위한 4단계 프라이버시 분류 체계를 도입한다. 실험 결과, MemPrivacy는 프라이버시 정보 추출에서 강력한 성능을 보여주며, GPT-5.2 및 Gemini-3.1-Pro와 같은 강력한 범용 모델을 크게 능가할 뿐만 아니라 추론 지연 시간도 감소시킨다. 여러 널리 사용되는 메모리 시스템에서 MemPrivacy는 유용성 손실을 1.6% 이내로 제한하여 기준 마스킹 전략보다 우수한 성능을 보인다. 전반적으로, MemPrivacy는 에지-클라우드 에이전트를 위한 프라이버시 보호와 개인화된 메모리 유용성 간의 효과적인 균형을 제공하여 안전하고, 실용적이며, 사용자 투명성 있는 배포를 가능하게 한다.

English

As LLM-powered agents are increasingly deployed in edge-cloud environments, personalized memory has become a key enabler of long-term adaptation and user-centric interaction. However, cloud-assisted memory management exposes sensitive user information, while existing privacy protection methods typically rely on aggressive masking that removes task-relevant semantics and consequently degrades memory utility and personalization quality. To address this challenge, We propose MemPrivacy, which identifies privacy-sensitive spans on edge devices, replaces them with semantically structured type-aware placeholders for cloud-side memory processing, and restores the original values locally when needed. By decoupling privacy protection from semantic destruction, MemPrivacy minimizes sensitive data exposure while retaining the information required for effective memory formation and retrieval. We also construct MemPrivacy-Bench for systematic evaluation, a dataset covering 200 users and over 52k privacy instances, and introduce a four-level privacy taxonomy for configurable protection policies. Experiments show that MemPrivacy achieves strong performance in privacy information extraction, substantially surpassing strong general-purpose models such as GPT-5.2 and Gemini-3.1-Pro, while also reducing inference latency. Across multiple widely used memory systems, MemPrivacy limits utility loss to within 1.6%, outperforming baseline masking strategies. Overall, MemPrivacy offers an effective balance between privacy protection and personalized memory utility for edge-cloud agents, enabling secure, practical, and user-transparent deployment.