Интерпретируемое нелинейное снижение размерности с использованием линейного преобразования, взвешенного по Гауссу

Interpretable non-linear dimensionality reduction using gaussian weighted linear transformation

April 24, 2025

Авторы: Erik Bergh

cs.AI

Аннотация

Методы снижения размерности являются фундаментальными для анализа и визуализации данных высокой размерности. Устоявшиеся подходы, такие как t-SNE и PCA, представляют собой компромисс между выразительностью и интерпретируемостью. В данной статье представлен новый метод, который устраняет этот разрыв, сочетая интерпретируемость линейных методов с выразительностью нелинейных преобразований. Предложенный алгоритм строит нелинейное отображение между пространствами высокой и низкой размерности с помощью комбинации линейных преобразований, каждое из которых взвешивается гауссовыми функциями. Такая архитектура позволяет выполнять сложные нелинейные преобразования, сохраняя при этом преимущества интерпретируемости линейных методов, так как каждое преобразование может анализироваться независимо. Полученная модель обеспечивает как мощное снижение размерности, так и прозрачное понимание преобразованного пространства. Представлены методы интерпретации изученных преобразований, включая способы выявления подавленных измерений и анализа расширения и сжатия пространства. Эти инструменты позволяют специалистам понять, как алгоритм сохраняет и изменяет геометрические отношения в процессе снижения размерности. Для обеспечения практической применимости данного алгоритма акцентируется создание удобных программных пакетов, способствующих его внедрению как в академической среде, так и в промышленности.

English

Dimensionality reduction techniques are fundamental for analyzing and visualizing high-dimensional data. With established methods like t-SNE and PCA presenting a trade-off between representational power and interpretability. This paper introduces a novel approach that bridges this gap by combining the interpretability of linear methods with the expressiveness of non-linear transformations. The proposed algorithm constructs a non-linear mapping between high-dimensional and low-dimensional spaces through a combination of linear transformations, each weighted by Gaussian functions. This architecture enables complex non-linear transformations while preserving the interpretability advantages of linear methods, as each transformation can be analyzed independently. The resulting model provides both powerful dimensionality reduction and transparent insights into the transformed space. Techniques for interpreting the learned transformations are presented, including methods for identifying suppressed dimensions and how space is expanded and contracted. These tools enable practitioners to understand how the algorithm preserves and modifies geometric relationships during dimensionality reduction. To ensure the practical utility of this algorithm, the creation of user-friendly software packages is emphasized, facilitating its adoption in both academia and industry.