Evidência Empírica de Regiões de Decisão Simplesmente Conexas em Classificadores de Imagens

Resumo

Compreender a topologia das regiões de decisão é central para explicar o funcionamento interno das redes neurais profundas. Trabalhos empíricos anteriores forneceram evidências de que essas regiões são conexas por caminhos. Estudamos uma questão topológica mais forte: se laços fechados dentro de uma região de decisão podem ser contraídos sem sair dessa região. Para tanto, propomos um procedimento iterativo de preenchimento por malha quadrilátera que constrói uma superfície de resolução finita preservadora de rótulos, delimitada por um dado laço e situada inteiramente dentro da mesma região de decisão. Conectamos ainda essa construção a patches de Coons naturais, a fim de quantificar seu desvio em relação a uma interpolação geométrica canônica do laço. Ao avaliar nosso método em diversos modelos modernos de classificação de imagens, fornecemos evidências empíricas que apoiam a hipótese de que as regiões de decisão em redes neurais profundas não são apenas conexas por caminhos, mas também simplesmente conexas.

English

Understanding the topology of decision regions is central to explaining the inner workings of deep neural networks. Prior empirical work has provided evidence that these regions are path connected. We study a stronger topological question: whether closed loops inside a decision region can be contracted without leaving that region. To this end, we propose an iterative quad-mesh filling procedure that constructs a finite-resolution label-preserving surface bounded by a given loop and lying entirely within the same decision region. We further connect this construction to natural Coons patches in order to quantify its deviation from a canonical geometric interpolation of the loop. By evaluating our method across several modern image-classification models, we provide empirical evidence supporting the hypothesis that decision regions in deep neural networks are not only path connected, but also simply connected.