Het verkennen van de kwetsbaarheden van Federated Learning: Een diepgaande analyse van Gradient Inversie-aanvallen

Exploring the Vulnerabilities of Federated Learning: A Deep Dive into Gradient Inversion Attacks

March 13, 2025

Auteurs: Pengxin Guo, Runxi Wang, Shuang Zeng, Jinjing Zhu, Haoning Jiang, Yanran Wang, Yuyin Zhou, Feifei Wang, Hui Xiong, Liangqiong Qu

cs.AI

Samenvatting

Federated Learning (FL) is naar voren gekomen als een veelbelovend paradigma voor privacybeschermende, collaboratieve modeltraining zonder het delen van ruwe data. Recente studies hebben echter aangetoond dat privé-informatie nog steeds kan worden gelekt via gedeelde gradientinformatie en kan worden aangevallen door Gradient Inversion Attacks (GIA). Hoewel er veel GIA-methoden zijn voorgesteld, ontbreekt het nog steeds aan een gedetailleerde analyse, evaluatie en samenvatting van deze methoden. Hoewel diverse overzichtspapers bestaande privacyaanvallen in FL samenvatten, hebben weinig studies uitgebreide experimenten uitgevoerd om de effectiviteit van GIA en de bijbehorende beperkende factoren in deze context bloot te leggen. Om deze leemte op te vullen, ondernemen we eerst een systematische review van GIA en categoriseren we bestaande methoden in drie typen, namelijk optimalisatie-gebaseerde GIA (OP-GIA), generatie-gebaseerde GIA (GEN-GIA) en analyse-gebaseerde GIA (ANA-GIA). Vervolgens analyseren en evalueren we de drie typen GIA in FL uitgebreid, waarbij we inzicht bieden in de factoren die hun prestaties, praktische toepasbaarheid en potentiële bedreigingen beïnvloeden. Onze bevindingen geven aan dat OP-GIA de meest praktische aanvalsinstelling is ondanks de onbevredigende prestaties, terwijl GEN-GIA veel afhankelijkheden heeft en ANA-GIA gemakkelijk detecteerbaar is, waardoor beide onpraktisch zijn. Tot slot bieden we gebruikers een drietraps verdedigingspipeline bij het ontwerpen van FL-frameworks en -protocollen voor betere privacybescherming en delen we enkele toekomstige onderzoeksrichtingen vanuit het perspectief van aanvallers en verdedigers die volgens ons nagestreefd moeten worden. We hopen dat onze studie onderzoekers kan helpen om robuustere FL-frameworks te ontwerpen die deze aanvallen kunnen weerstaan.

English

Federated Learning (FL) has emerged as a promising privacy-preserving collaborative model training paradigm without sharing raw data. However, recent studies have revealed that private information can still be leaked through shared gradient information and attacked by Gradient Inversion Attacks (GIA). While many GIA methods have been proposed, a detailed analysis, evaluation, and summary of these methods are still lacking. Although various survey papers summarize existing privacy attacks in FL, few studies have conducted extensive experiments to unveil the effectiveness of GIA and their associated limiting factors in this context. To fill this gap, we first undertake a systematic review of GIA and categorize existing methods into three types, i.e., optimization-based GIA (OP-GIA), generation-based GIA (GEN-GIA), and analytics-based GIA (ANA-GIA). Then, we comprehensively analyze and evaluate the three types of GIA in FL, providing insights into the factors that influence their performance, practicality, and potential threats. Our findings indicate that OP-GIA is the most practical attack setting despite its unsatisfactory performance, while GEN-GIA has many dependencies and ANA-GIA is easily detectable, making them both impractical. Finally, we offer a three-stage defense pipeline to users when designing FL frameworks and protocols for better privacy protection and share some future research directions from the perspectives of attackers and defenders that we believe should be pursued. We hope that our study can help researchers design more robust FL frameworks to defend against these attacks.