編集を取り除いても、私の顔は留まらない：悪意ある生成編集に対する個人バイオメトリック防御

Edit Away and My Face Will not Stay: Personal Biometric Defense against Malicious Generative Editing

November 25, 2024

著者: Hanhui Wang, Yihua Zhang, Ruizheng Bai, Yue Zhao, Sijia Liu, Zhengzhong Tu

cs.AI

要旨

最近の拡散モデルの進歩により、生成画像編集がより利用しやすくなり、創造的な編集が可能になりましたが、倫理的な懸念が高まっています。特に、プライバシーや身元の安全を脅かす人物の肖像への悪意のある編集に関してです。既存の保護方法は、編集を無効にするために敵対的摂動に主に依存していますが、さまざまな編集リクエストに対してしばしば失敗します。私たちは、肖像保護のための新しいアプローチであるFaceLockを提案します。FaceLockは、敵対的摂動を最適化してバイオメトリック情報を破壊するか、大幅に変更することで、編集された出力をバイオメトリックに認識できないようにします。FaceLockは、顔認識と視覚認識を摂動最適化に統合し、さまざまな編集試行に対して堅牢な保護を提供します。また、一般的に使用される評価メトリクスの欠陥を指摘し、それらがどのように操作されるかを明らかにし、信頼性のある保護の評価の必要性を強調しています。実験では、FaceLockが悪意のある編集に対してベースラインを上回り、浄化技術に対しても堅牢であることが示されています。削除研究は、その安定性と拡散ベースの編集アルゴリズム全般にわたる広範な適用可能性を確認しています。私たちの研究は、バイオメトリック防御を前進させ、画像編集におけるプライバシー保護の実践の基盤を築いています。コードはこちらで入手可能です：https://github.com/taco-group/FaceLock。

English

Recent advancements in diffusion models have made generative image editing more accessible, enabling creative edits but raising ethical concerns, particularly regarding malicious edits to human portraits that threaten privacy and identity security. Existing protection methods primarily rely on adversarial perturbations to nullify edits but often fail against diverse editing requests. We propose FaceLock, a novel approach to portrait protection that optimizes adversarial perturbations to destroy or significantly alter biometric information, rendering edited outputs biometrically unrecognizable. FaceLock integrates facial recognition and visual perception into perturbation optimization to provide robust protection against various editing attempts. We also highlight flaws in commonly used evaluation metrics and reveal how they can be manipulated, emphasizing the need for reliable assessments of protection. Experiments show FaceLock outperforms baselines in defending against malicious edits and is robust against purification techniques. Ablation studies confirm its stability and broad applicability across diffusion-based editing algorithms. Our work advances biometric defense and sets the foundation for privacy-preserving practices in image editing. The code is available at: https://github.com/taco-group/FaceLock.