Empirisch bewijs voor enkelvoudig samenhangende beslissingsgebieden in beeldclassificatoren

Samenvatting

Het begrijpen van de topologie van beslissingsregio's is essentieel voor het verklaren van de innerlijke werking van diepe neurale netwerken. Eerder empirisch werk heeft bewijs geleverd dat deze regio's padgeconnecteerd zijn. Wij bestuderen een sterkere topologische vraag: of gesloten lussen binnen een beslissingsregio kunnen worden gecontracteerd zonder die regio te verlaten. Hiertoe stellen wij een iteratieve quad-mesh-vulprocedure voor die een oppervlak met eindige resolutie en labelbehoud construeert, begrensd door een gegeven lus en volledig liggend binnen dezelfde beslissingsregio. Verder verbinden wij deze constructie met natuurlijke Coons-patches om de afwijking ervan van een canonieke geometrische interpolatie van de lus te kwantificeren. Door onze methode te evalueren over verschillende moderne beeldclassificatiemodellen, leveren wij empirisch bewijs ter ondersteuning van de hypothese dat beslissingsregio's in diepe neurale netwerken niet alleen padgeconnecteerd, maar ook enkelvoudig samenhangend zijn.

English

Understanding the topology of decision regions is central to explaining the inner workings of deep neural networks. Prior empirical work has provided evidence that these regions are path connected. We study a stronger topological question: whether closed loops inside a decision region can be contracted without leaving that region. To this end, we propose an iterative quad-mesh filling procedure that constructs a finite-resolution label-preserving surface bounded by a given loop and lying entirely within the same decision region. We further connect this construction to natural Coons patches in order to quantify its deviation from a canonical geometric interpolation of the loop. By evaluating our method across several modern image-classification models, we provide empirical evidence supporting the hypothesis that decision regions in deep neural networks are not only path connected, but also simply connected.