설명 가능성과 프라이버시의 만남: 자연어 처리 맥락에서 사후 설명 가능성과 차등 프라이버시의 교차점에 대한 탐구

초록

신뢰할 수 있는 자연어 처리(NLP) 연구에서 설명 가능성과 프라이버시를 포함한 여러 중요한 연구 분야가 등장했습니다. 설명 가능하고 프라이버시를 보존하는 NLP에 대한 연구 관심이 최근 몇 년 동안 크게 증가했음에도 불구하고, 이 두 분야의 교차점에 대한 조사는 여전히 부족한 상태입니다. 이로 인해 설명 가능성과 프라이버시를 동시에 달성할 수 있는지, 아니면 이 두 가지가 상충되는지에 대한 이해에 상당한 공백이 존재합니다. 본 연구에서는 차등 프라이버시(DP)와 사후 설명 가능성이라는 널리 사용되는 포괄적인 방법론을 바탕으로 NLP 맥락에서 프라이버시와 설명 가능성 간의 상충 관계를 실증적으로 조사합니다. 우리의 연구 결과는 하위 작업의 특성과 텍스트 프라이버시화 및 설명 가능성 방법의 선택을 포함한 여러 요인에 의해 형성되는 프라이버시와 설명 가능성 간의 복잡한 관계를 조명합니다. 이를 통해 프라이버시와 설명 가능성이 공존할 가능성을 강조하고, 이 중요한 교차점에서의 향후 연구를 위한 실용적인 권장 사항들을 정리하여 제시합니다.

English

In the study of trustworthy Natural Language Processing (NLP), a number of important research fields have emerged, including that of explainability and privacy. While research interest in both explainable and privacy-preserving NLP has increased considerably in recent years, there remains a lack of investigation at the intersection of the two. This leaves a considerable gap in understanding of whether achieving both explainability and privacy is possible, or whether the two are at odds with each other. In this work, we conduct an empirical investigation into the privacy-explainability trade-off in the context of NLP, guided by the popular overarching methods of Differential Privacy (DP) and Post-hoc Explainability. Our findings include a view into the intricate relationship between privacy and explainability, which is formed by a number of factors, including the nature of the downstream task and choice of the text privatization and explainability method. In this, we highlight the potential for privacy and explainability to co-exist, and we summarize our findings in a collection of practical recommendations for future work at this important intersection.

설명 가능성과 프라이버시의 만남: 자연어 처리 맥락에서 사후 설명 가능성과 차등 프라이버시의 교차점에 대한 탐구

When Explainability Meets Privacy: An Investigation at the Intersection of Post-hoc Explainability and Differential Privacy in the Context of Natural Language Processing

초록

Support