C3D-AD: Naar continue 3D-anomaliedetectie via kernelattention met leerbare adviseur

C3D-AD: Toward Continual 3D Anomaly Detection via Kernel Attention with Learnable Advisor

August 2, 2025

Auteurs: Haoquan Lu, Hanzhe Liang, Jie Zhang, Chenxi Hu, Jinbao Wang, Can Gao

cs.AI

Samenvatting

3D Anomaliedetectie (AD) heeft groot potentieel getoond in het detecteren van anomalieën of defecten in hoogwaardige industriële producten. Bestaande methoden worden echter doorgaans getraind op een klasse-specifieke manier en missen het vermogen om te leren van opkomende klassen. In deze studie hebben we een continu leerframework voorgesteld genaamd Continual 3D Anomaly Detection (C3D-AD), dat niet alleen gegeneraliseerde representaties kan leren voor multi-klasse puntenwolken, maar ook nieuwe klassen kan verwerken die in de loop van de tijd ontstaan. Specifiek wordt in de feature-extractiemodule, om efficiënt gegeneraliseerde lokale features te extraheren uit diverse producttypen van verschillende taken, de Kernel Attention met random feature Layer (KAL) geïntroduceerd, die de feature-ruimte normaliseert. Vervolgens wordt, om data correct en continu te reconstrueren, een efficiënte Kernel Attention met learnable Advisor (KAA) mechanisme voorgesteld, dat informatie leert van nieuwe categorieën terwijl overbodige oude informatie wordt weggefilterd, zowel in de encoder als de decoder. Ten slotte wordt, om de representatieconsistentie over taken te behouden, een Reconstruction with Parameter Perturbation (RPP) module voorgesteld door een representatie-rehearsal verliesfunctie te ontwerpen, die ervoor zorgt dat het model eerdere categorie-informatie onthoudt en categorie-adaptieve representaties teruggeeft. Uitgebreide experimenten op drie publieke datasets tonen de effectiviteit van de voorgestelde methode aan, met een gemiddelde prestatie van 66,4%, 83,1% en 63,4% AUROC op respectievelijk Real3D-AD, Anomaly-ShapeNet en MulSen-AD.

English

3D Anomaly Detection (AD) has shown great potential in detecting anomalies or defects of high-precision industrial products. However, existing methods are typically trained in a class-specific manner and also lack the capability of learning from emerging classes. In this study, we proposed a continual learning framework named Continual 3D Anomaly Detection (C3D-AD), which can not only learn generalized representations for multi-class point clouds but also handle new classes emerging over time.Specifically, in the feature extraction module, to extract generalized local features from diverse product types of different tasks efficiently, Kernel Attention with random feature Layer (KAL) is introduced, which normalizes the feature space. Then, to reconstruct data correctly and continually, an efficient Kernel Attention with learnable Advisor (KAA) mechanism is proposed, which learns the information from new categories while discarding redundant old information within both the encoder and decoder. Finally, to keep the representation consistency over tasks, a Reconstruction with Parameter Perturbation (RPP) module is proposed by designing a representation rehearsal loss function, which ensures that the model remembers previous category information and returns category-adaptive representation.Extensive experiments on three public datasets demonstrate the effectiveness of the proposed method, achieving an average performance of 66.4%, 83.1%, and 63.4% AUROC on Real3D-AD, Anomaly-ShapeNet, and MulSen-AD, respectively.