Riduzione della dimensionalità non lineare interpretabile mediante trasformazione lineare ponderata gaussiana

Interpretable non-linear dimensionality reduction using gaussian weighted linear transformation

April 24, 2025

Autori: Erik Bergh

cs.AI

Abstract

Le tecniche di riduzione della dimensionalità sono fondamentali per analizzare e visualizzare dati ad alta dimensionalità. Metodi consolidati come t-SNE e PCA presentano un compromesso tra potere rappresentativo e interpretabilità. Questo articolo introduce un approccio innovativo che colma questa lacuna combinando l'interpretabilità dei metodi lineari con l'espressività delle trasformazioni non lineari. L'algoritmo proposto costruisce una mappatura non lineare tra spazi ad alta e bassa dimensionalità attraverso una combinazione di trasformazioni lineari, ciascuna ponderata da funzioni gaussiane. Questa architettura consente trasformazioni non lineari complesse preservando i vantaggi interpretativi dei metodi lineari, poiché ogni trasformazione può essere analizzata indipendentemente. Il modello risultante offre sia una potente riduzione della dimensionalità sia intuizioni trasparenti sullo spazio trasformato. Vengono presentate tecniche per interpretare le trasformazioni apprese, inclusi metodi per identificare dimensioni soppresse e come lo spazio viene espanso e contratto. Questi strumenti consentono ai professionisti di comprendere come l'algoritmo preserva e modifica le relazioni geometriche durante la riduzione della dimensionalità. Per garantire l'utilità pratica di questo algoritmo, viene sottolineata la creazione di pacchetti software user-friendly, facilitandone l'adozione sia in ambito accademico che industriale.

English

Dimensionality reduction techniques are fundamental for analyzing and visualizing high-dimensional data. With established methods like t-SNE and PCA presenting a trade-off between representational power and interpretability. This paper introduces a novel approach that bridges this gap by combining the interpretability of linear methods with the expressiveness of non-linear transformations. The proposed algorithm constructs a non-linear mapping between high-dimensional and low-dimensional spaces through a combination of linear transformations, each weighted by Gaussian functions. This architecture enables complex non-linear transformations while preserving the interpretability advantages of linear methods, as each transformation can be analyzed independently. The resulting model provides both powerful dimensionality reduction and transparent insights into the transformed space. Techniques for interpreting the learned transformations are presented, including methods for identifying suppressed dimensions and how space is expanded and contracted. These tools enable practitioners to understand how the algorithm preserves and modifies geometric relationships during dimensionality reduction. To ensure the practical utility of this algorithm, the creation of user-friendly software packages is emphasized, facilitating its adoption in both academia and industry.