C3D-AD: 学習可能なアドバイザーを伴うカーネルアテンションによる継続的3D異常検知に向けて

要旨

3D異常検出（AD）は、高精度な工業製品の異常や欠陥を検出する上で大きな可能性を示している。しかし、既存の手法は通常、クラス固有の方法で訓練されており、新たに出現するクラスからの学習能力も欠けている。本研究では、Continual 3D Anomaly Detection（C3D-AD）と名付けた継続学習フレームワークを提案し、多クラスの点群に対する一般化された表現を学習するだけでなく、時間の経過とともに新たに出現するクラスも扱うことができる。具体的には、特徴抽出モジュールにおいて、異なるタスクの多様な製品タイプから効率的に一般化された局所特徴を抽出するため、カーネルアテンションとランダム特徴層（KAL）を導入し、特徴空間を正規化する。次に、データを正確かつ継続的に再構築するため、学習可能なアドバイザーを備えた効率的なカーネルアテンション（KAA）メカニズムを提案し、エンコーダとデコーダの両方において、新しいカテゴリからの情報を学習しながら、冗長な古い情報を捨てる。最後に、タスク間での表現の一貫性を保つため、表現リハーサル損失関数を設計した再構築とパラメータ摂動（RPP）モジュールを提案し、モデルが以前のカテゴリ情報を記憶し、カテゴリ適応的な表現を返すことを保証する。3つの公開データセットでの広範な実験により、提案手法の有効性が実証され、Real3D-AD、Anomaly-ShapeNet、MulSen-ADにおいて、それぞれ66.4%、83.1%、63.4%の平均AUROC性能を達成した。

English

3D Anomaly Detection (AD) has shown great potential in detecting anomalies or defects of high-precision industrial products. However, existing methods are typically trained in a class-specific manner and also lack the capability of learning from emerging classes. In this study, we proposed a continual learning framework named Continual 3D Anomaly Detection (C3D-AD), which can not only learn generalized representations for multi-class point clouds but also handle new classes emerging over time.Specifically, in the feature extraction module, to extract generalized local features from diverse product types of different tasks efficiently, Kernel Attention with random feature Layer (KAL) is introduced, which normalizes the feature space. Then, to reconstruct data correctly and continually, an efficient Kernel Attention with learnable Advisor (KAA) mechanism is proposed, which learns the information from new categories while discarding redundant old information within both the encoder and decoder. Finally, to keep the representation consistency over tasks, a Reconstruction with Parameter Perturbation (RPP) module is proposed by designing a representation rehearsal loss function, which ensures that the model remembers previous category information and returns category-adaptive representation.Extensive experiments on three public datasets demonstrate the effectiveness of the proposed method, achieving an average performance of 66.4%, 83.1%, and 63.4% AUROC on Real3D-AD, Anomaly-ShapeNet, and MulSen-AD, respectively.

C3D-AD: 学習可能なアドバイザーを伴うカーネルアテンションによる継続的3D異常検知に向けて

C3D-AD: Toward Continual 3D Anomaly Detection via Kernel Attention with Learnable Advisor

要旨

Support