CPCANet : Analyse en Composantes Principales Communes par Dépliage Profond pour la Généralisation de Domaine
CPCANet: Deep Unfolding Common Principal Component Analysis for Domain Generalization
May 7, 2026
Auteurs: Yu-Hsi Chen, Abd-Krim Seghouane
cs.AI
Résumé
La généralisation de domaine (DG) vise à apprendre des représentations qui restent robustes face aux décalages hors distribution (OOD) et généralisent efficacement à des domaines cibles non vus. Bien que les récentes stratégies d'apprentissage invariant et les avancées architecturales aient atteint de bonnes performances, la découverte explicite d'un sous-espace structuré invariant entre domaines via des statistiques de second ordre reste peu explorée. Dans ce travail, nous proposons CPCANet, un nouveau cadre fondé sur l'Analyse en Composantes Principales Communes (CPCA), qui déroule l'algorithme itératif de Flury-Gautschi (FG) en couches neuronales entièrement différentiables. Cette approche intègre les propriétés statistiques de la CPCA dans un cadre entraînable de bout en bout, imposant la découverte d'un sous-espace partagé à travers divers domaines tout en préservant l'interprétabilité. Des expériences sur quatre benchmarks standards de DG montrent que CPCANet atteint des performances de pointe (SOTA) en transfert zero-shot. De plus, CPCANet est indépendant de l'architecture et ne nécessite aucun réglage spécifique au jeu de données, offrant une approche simple et efficace pour apprendre des représentations robustes sous décalage de distribution. Le code est disponible à l'adresse https://github.com/wish44165/CPCANet.
English
Domain Generalization (DG) aims to learn representations that remain robust under out-of-distribution (OOD) shifts and generalize effectively to unseen target domains. While recent invariant learning strategies and architectural advances have achieved strong performance, explicitly discovering a structured domain-invariant subspace through second-order statistics remains underexplored. In this work, we propose CPCANet, a novel framework grounded in Common Principal Component Analysis (CPCA), which unrolls the iterative Flury-Gautschi (FG) algorithm into fully differentiable neural layers. This approach integrates the statistical properties of CPCA into an end-to-end trainable framework, enforcing the discovery of a shared subspace across diverse domains while preserving interpretability. Experiments on four standard DG benchmarks demonstrate that CPCANet achieves state-of-the-art (SOTA) performance in zero-shot transfer. Moreover, CPCANet is architecture-agnostic and requires no dataset-specific tuning, providing a simple and efficient approach to learning robust representations under distribution shift. Code is available at https://github.com/wish44165/CPCANet.