PAAC: Privacybewuste Agentische Apparaat-Cloud Samenwerking

Samenvatting

Grote taalmodellen (LLM) als agenten kampen met een structurele spanning: cloud-agenten bieden sterke redeneervaardigheden maar stellen gebruikersgegevens bloot, terwijl agenten op het apparaat de privacy waarborgen ten koste van de algehele capaciteit. Bestaande apparaat-cloudontwerpen behandelen deze grens als een rekenkundige splitsing in plaats van een vertrouwensgrens die geschikt is voor agentische workloads, en bestaande sanitizers dwingen een keuze af tussen beleidsflexibiliteit en de structurele getrouwheid die toolaanroepen vereisen. In dit werk ontwikkelen wij PAAC, een privacybewust agentisch raamwerk dat de planner-executor-decompositie afstemt op de apparaat-cloudgrens, zodat rolspecialisatie zelf het privacymechanisme wordt. De cloud-agent redeneert over getypeerde plaatshoudertokens die de redeneerrol van elke gevoelige waarde behouden, terwijl de inhoud wordt weggelaten; de agent op het apparaat identificeert gevoelige fragmenten en destilleert het uitvoeringsresultaat van elke stap tot compacte kernbevindingen. Sanering beperkt het LLM op het apparaat tot het voorstellen van welke fragmenten te maskeren, terwijl een deterministisch register alle substitutie en omkering uitvoert, waardoor acties direct uitvoerbaar blijven op het apparaat. Op drie agentische benchmarks onder strikte privacy-instellingen domineert PAAC de Pareto-grens van privacy en nauwkeurigheid, met een verbetering van de gemiddelde nauwkeurigheid van 15-36% en een vermindering van de gemiddelde lekkage met 2-6 keer ten opzichte van state-of-the-art apparaat-cloudbaselines, met de grootste marges op privacydoelen buiten vaste entiteitstaxonomieën. Wij vinden consistente verbeteringen op 17 extra benchmarks uit 10 domeinen, waaronder wiskunde, wetenschap en financiën.

English

Large language model (LLM) agents face a structural tension: cloud agents provide strong reasoning but expose user data, while on-device agents preserve privacy at the cost of overall capability. Existing device-cloud designs treat this boundary as a compute split rather than a trust boundary suited to agentic workloads, and existing sanitizers force a choice between policy flexibility and the structural fidelity tool calls require. In this work, we develop PAAC, a privacy-aware agentic framework that aligns planner--executor decomposition with the device-cloud boundary so that role specialization itself becomes the privacy mechanism. The cloud agent reasons over typed placeholder tokens that preserve each sensitive value's reasoning role while discarding its content, while the on-device agent identifies sensitive spans and distills each step's execution outcome into compact key findings. Sanitization confines the on-device LLM to proposing which spans to mask, while a deterministic registry performs all substitution and reversal, keeping actions directly executable on device. On three agentic benchmarks under strict privacy settings, PAAC dominates the Pareto frontier of privacy and accuracy, improving average accuracy by 15-36\% and reducing average leakage by 2-6times over state-of-the-art device-cloud baselines, with the largest margins on privacy targets outside fixed entity taxonomies. We find consistent improvements on 17 additional benchmarks spanning 10 domains, including math, science, and finance.