CPCANet: Desdobramento Profundo da Análise de Componentes Principais Comuns para Generalização de Domínio

Resumo

A Generalização de Domínio (DG) tem como objetivo aprender representações que permaneçam robustas sob mudanças fora da distribuição (OOD) e generalizem efetivamente para domínios-alvo não vistos. Embora estratégias recentes de aprendizado invariante e avanços arquitetônicos tenham alcançado desempenho robusto, a descoberta explícita de um subespaço invariante de domínio estruturado por meio de estatísticas de segunda ordem permanece pouco explorada. Neste trabalho, propomos o CPCANet, uma nova estrutura fundamentada na Análise de Componentes Principais Comuns (CPCA), que desenrola o algoritmo iterativo de Flury-Gautschi (FG) em camadas neurais totalmente diferenciáveis. Essa abordagem integra as propriedades estatísticas da CPCA em uma estrutura treinável de ponta a ponta, impondo a descoberta de um subespaço compartilhado entre domínios diversos, preservando ao mesmo tempo a interpretabilidade. Experimentos em quatro benchmarks padrão de DG demonstram que o CPCANet alcança desempenho de estado da arte (SOTA) em transferência zero-shot. Além disso, o CPCANet é independente de arquitetura e não requer ajustes específicos ao conjunto de dados, oferecendo uma abordagem simples e eficiente para aprender representações robustas sob mudança de distribuição. O código está disponível em https://github.com/wish44165/CPCANet.

English

Domain Generalization (DG) aims to learn representations that remain robust under out-of-distribution (OOD) shifts and generalize effectively to unseen target domains. While recent invariant learning strategies and architectural advances have achieved strong performance, explicitly discovering a structured domain-invariant subspace through second-order statistics remains underexplored. In this work, we propose CPCANet, a novel framework grounded in Common Principal Component Analysis (CPCA), which unrolls the iterative Flury-Gautschi (FG) algorithm into fully differentiable neural layers. This approach integrates the statistical properties of CPCA into an end-to-end trainable framework, enforcing the discovery of a shared subspace across diverse domains while preserving interpretability. Experiments on four standard DG benchmarks demonstrate that CPCANet achieves state-of-the-art (SOTA) performance in zero-shot transfer. Moreover, CPCANet is architecture-agnostic and requires no dataset-specific tuning, providing a simple and efficient approach to learning robust representations under distribution shift. Code is available at https://github.com/wish44165/CPCANet.