Veranderingsmodelen met Toestandsruimte voor Veranderingsdetectie in Remote Sensing

Change State Space Models for Remote Sensing Change Detection

April 15, 2025

Auteurs: Elman Ghazaei, Erchan Aptoula

cs.AI

Samenvatting

Ondanks hun veelvuldige gebruik voor veranderingsdetectie, vertonen zowel ConvNets als Vision Transformers (ViT) bekende beperkingen, waarbij de eerste moeite hebben met het modelleren van langeafstandsafhankelijkheden en de laatste rekenkundig inefficiënt zijn, wat het trainen op grootschalige datasets uitdagend maakt. Vision Mamba, een architectuur gebaseerd op State Space Models, is naar voren gekomen als een alternatief dat de genoemde tekortkomingen aanpakt en is al toegepast op remote sensing veranderingsdetectie, hoewel meestal als een feature-extractie-backbone. In dit artikel wordt het Change State Space Model geïntroduceerd, dat specifiek is ontworpen voor veranderingsdetectie door zich te richten op de relevante veranderingen tussen bi-temporele beelden, waarbij irrelevante informatie effectief wordt gefilterd. Door zich uitsluitend te concentreren op de veranderde kenmerken, wordt het aantal netwerkparameters verminderd, wat de rekenkundige efficiëntie aanzienlijk verbetert terwijl een hoge detectieprestatie en robuustheid tegen inputdegradatie behouden blijft. Het voorgestelde model is geëvalueerd via drie benchmarkdatasets, waar het ConvNets, ViTs en Mamba-gebaseerde tegenhangers overtrof met een fractie van hun rekenkundige complexiteit. De implementatie zal beschikbaar worden gesteld op https://github.com/Elman295/CSSM na acceptatie.

English

Despite their frequent use for change detection, both ConvNets and Vision transformers (ViT) exhibit well-known limitations, namely the former struggle to model long-range dependencies while the latter are computationally inefficient, rendering them challenging to train on large-scale datasets. Vision Mamba, an architecture based on State Space Models has emerged as an alternative addressing the aforementioned deficiencies and has been already applied to remote sensing change detection, though mostly as a feature extracting backbone. In this article the Change State Space Model is introduced, that has been specifically designed for change detection by focusing on the relevant changes between bi-temporal images, effectively filtering out irrelevant information. By concentrating solely on the changed features, the number of network parameters is reduced, enhancing significantly computational efficiency while maintaining high detection performance and robustness against input degradation. The proposed model has been evaluated via three benchmark datasets, where it outperformed ConvNets, ViTs, and Mamba-based counterparts at a fraction of their computational complexity. The implementation will be made available at https://github.com/Elman295/CSSM upon acceptance.