C3D-AD: 학습 가능한 어드바이저를 통한 커널 어텐션 기반 지속적 3D 이상 탐지

초록

3D 이상 탐지(Anomaly Detection, AD)는 고정밀 산업 제품의 이상 또는 결함을 탐지하는 데 있어 큰 잠재력을 보여주고 있습니다. 그러나 기존 방법들은 일반적으로 클래스별로 특화된 방식으로 학습되며, 새로운 클래스로부터 학습할 수 있는 능력이 부족합니다. 본 연구에서는 Continual 3D Anomaly Detection (C3D-AD)라는 지속 학습 프레임워크를 제안하였습니다. 이 프레임워크는 다중 클래스 포인트 클라우드에 대한 일반화된 표현을 학습할 수 있을 뿐만 아니라 시간이 지남에 따라 등장하는 새로운 클래스도 처리할 수 있습니다. 구체적으로, 특징 추출 모듈에서는 다양한 작업의 제품 유형으로부터 효율적으로 일반화된 지역 특징을 추출하기 위해 Kernel Attention with random feature Layer (KAL)을 도입하여 특징 공간을 정규화합니다. 그런 다음, 데이터를 정확하고 지속적으로 재구성하기 위해 학습 가능한 Advisor를 갖춘 Kernel Attention (KAA) 메커니즘을 제안하였습니다. 이 메커니즘은 새로운 카테고리의 정보를 학습하면서 인코더와 디코더 내에서 불필요한 이전 정보를 버립니다. 마지막으로, 작업 간 표현 일관성을 유지하기 위해 Reconstruction with Parameter Perturbation (RPP) 모듈을 제안하였습니다. 이 모듈은 표현 리허설 손실 함수를 설계하여 모델이 이전 카테고리 정보를 기억하고 카테고리에 적응적인 표현을 반환하도록 합니다. 세 가지 공개 데이터셋에 대한 광범위한 실험을 통해 제안된 방법의 효과를 입증하였으며, Real3D-AD, Anomaly-ShapeNet, MulSen-AD에서 각각 66.4%, 83.1%, 63.4%의 평균 AUROC 성능을 달성하였습니다.

English

3D Anomaly Detection (AD) has shown great potential in detecting anomalies or defects of high-precision industrial products. However, existing methods are typically trained in a class-specific manner and also lack the capability of learning from emerging classes. In this study, we proposed a continual learning framework named Continual 3D Anomaly Detection (C3D-AD), which can not only learn generalized representations for multi-class point clouds but also handle new classes emerging over time.Specifically, in the feature extraction module, to extract generalized local features from diverse product types of different tasks efficiently, Kernel Attention with random feature Layer (KAL) is introduced, which normalizes the feature space. Then, to reconstruct data correctly and continually, an efficient Kernel Attention with learnable Advisor (KAA) mechanism is proposed, which learns the information from new categories while discarding redundant old information within both the encoder and decoder. Finally, to keep the representation consistency over tasks, a Reconstruction with Parameter Perturbation (RPP) module is proposed by designing a representation rehearsal loss function, which ensures that the model remembers previous category information and returns category-adaptive representation.Extensive experiments on three public datasets demonstrate the effectiveness of the proposed method, achieving an average performance of 66.4%, 83.1%, and 63.4% AUROC on Real3D-AD, Anomaly-ShapeNet, and MulSen-AD, respectively.

C3D-AD: 학습 가능한 어드바이저를 통한 커널 어텐션 기반 지속적 3D 이상 탐지

C3D-AD: Toward Continual 3D Anomaly Detection via Kernel Attention with Learnable Advisor

초록

Support