가우시안 가중 선형 변환을 활용한 해석 가능한 비선형 차원 축소

Interpretable non-linear dimensionality reduction using gaussian weighted linear transformation

April 24, 2025

저자: Erik Bergh

cs.AI

초록

차원 축소 기법은 고차원 데이터를 분석하고 시각화하는 데 있어 기본적인 도구입니다. t-SNE와 PCA와 같은 기존 방법들은 표현력과 해석 가능성 사이의 트레이드오프를 보여줍니다. 본 논문은 선형 방법의 해석 가능성과 비선형 변환의 표현력을 결합하여 이러한 간극을 메우는 새로운 접근 방식을 소개합니다. 제안된 알고리즘은 가우시안 함수로 가중치가 부여된 선형 변환들의 조합을 통해 고차원 공간과 저차원 공간 사이의 비선형 매핑을 구성합니다. 이 아키텍처는 각 변환을 독립적으로 분석할 수 있도록 함으로써 복잡한 비선형 변환을 가능하게 하면서도 선형 방법의 해석 가능성 이점을 유지합니다. 결과적으로 이 모델은 강력한 차원 축소와 변환된 공간에 대한 투명한 통찰력을 모두 제공합니다. 학습된 변환을 해석하기 위한 기법들도 제시되는데, 여기에는 억제된 차원을 식별하는 방법과 공간이 어떻게 확장되고 수축되는지에 대한 방법들이 포함됩니다. 이러한 도구들은 실무자가 차원 축소 과정에서 알고리즘이 기하학적 관계를 어떻게 보존하고 수정하는지 이해할 수 있게 해줍니다. 이 알고리즘의 실용적 유용성을 보장하기 위해, 학계와 산업계에서의 채용을 용이하게 하는 사용자 친화적인 소프트웨어 패키지 개발이 강조됩니다.

English

Dimensionality reduction techniques are fundamental for analyzing and visualizing high-dimensional data. With established methods like t-SNE and PCA presenting a trade-off between representational power and interpretability. This paper introduces a novel approach that bridges this gap by combining the interpretability of linear methods with the expressiveness of non-linear transformations. The proposed algorithm constructs a non-linear mapping between high-dimensional and low-dimensional spaces through a combination of linear transformations, each weighted by Gaussian functions. This architecture enables complex non-linear transformations while preserving the interpretability advantages of linear methods, as each transformation can be analyzed independently. The resulting model provides both powerful dimensionality reduction and transparent insights into the transformed space. Techniques for interpreting the learned transformations are presented, including methods for identifying suppressed dimensions and how space is expanded and contracted. These tools enable practitioners to understand how the algorithm preserves and modifies geometric relationships during dimensionality reduction. To ensure the practical utility of this algorithm, the creation of user-friendly software packages is emphasized, facilitating its adoption in both academia and industry.