CPCANet: 도메인 일반화를 위한 딥 언폴딩 공통 주성분 분석

CPCANet: Deep Unfolding Common Principal Component Analysis for Domain Generalization

May 7, 2026

저자: Yu-Hsi Chen, Abd-Krim Seghouane

cs.AI

초록

도메인 일반화(Domain Generalization, DG)는 분포 외(Out-of-Distribution, OOD) 변화에도 강건한 표현을 학습하고, 보지 못한 대상 도메인으로 효과적으로 일반화하는 것을 목표로 한다. 최근의 불변 학습 전략 및 구조적 발전은 강력한 성능을 달성했지만, 2차 통계량을 통해 구조화된 도메인 불변 부분공간을 명시적으로 발견하는 연구는 아직 충분히 탐구되지 않았다. 본 연구에서는 반복적인 Flury-Gautschi(FG) 알고리즘을 완전히 미분 가능한 신경망 계층으로 풀어내는 CPCANet이라는 새로운 프레임워크를 제안한다. 이 접근법은 공통 주성분 분석(Common Principal Component Analysis, CPCA)의 통계적 특성을 종단간(end-to-end) 학습 가능한 프레임워크에 통합하여, 다양한 도메인 간에 공유 부분공간을 발견하도록 강제하면서도 해석 가능성을 유지한다. 네 가지 표준 DG 벤치마크에 대한 실험 결과, CPCANet은 제로샷 전이(Zero-shot Transfer)에서 최첨단(State-of-the-Art, SOTA) 성능을 달성함을 보여준다. 또한 CPCANet은 아키텍처에 구애받지 않으며 데이터셋별 튜닝이 필요 없어, 분포 변화 하에서 강건한 표현을 학습하는 간단하고 효율적인 방법을 제공한다. 코드는 https://github.com/wish44165/CPCANet에서 확인할 수 있다.

English

Domain Generalization (DG) aims to learn representations that remain robust under out-of-distribution (OOD) shifts and generalize effectively to unseen target domains. While recent invariant learning strategies and architectural advances have achieved strong performance, explicitly discovering a structured domain-invariant subspace through second-order statistics remains underexplored. In this work, we propose CPCANet, a novel framework grounded in Common Principal Component Analysis (CPCA), which unrolls the iterative Flury-Gautschi (FG) algorithm into fully differentiable neural layers. This approach integrates the statistical properties of CPCA into an end-to-end trainable framework, enforcing the discovery of a shared subspace across diverse domains while preserving interpretability. Experiments on four standard DG benchmarks demonstrate that CPCANet achieves state-of-the-art (SOTA) performance in zero-shot transfer. Moreover, CPCANet is architecture-agnostic and requires no dataset-specific tuning, providing a simple and efficient approach to learning robust representations under distribution shift. Code is available at https://github.com/wish44165/CPCANet.