이미지 분류기에서 단순 연결된 결정 영역에 대한 실증적 증거

Empirical Evidence for Simply Connected Decision Regions in Image Classifiers

May 7, 2026

저자: Arjhun Swaminathan, Mete Akgün

cs.AI

초록

의사 결정 영역의 위상 구조를 이해하는 것은 심층 신경망의 내부 작동 방식을 설명하는 데 핵심적이다. 기존의 실증 연구는 이러한 영역들이 경로 연결되어 있다는 증거를 제시해 왔다. 우리는 더 강력한 위상적 질문, 즉 의사 결정 영역 내부의 폐루프가 해당 영역을 벗어나지 않고 수축될 수 있는지 여부를 연구한다. 이를 위해, 주어진 루프로 경계 지어지며 전적으로 동일한 의사 결정 영역 내에 존재하는 유한 해상도의 레이블 보존 표면을 구성하는 반복적 사각 메시 채움 절차를 제안한다. 또한, 이 구성을 자연스러운 쿤스 패치와 연결하여 루프의 표준 기하학적 보간으로부터의 편차를 정량화한다. 여러 현대 이미지 분류 모델에 걸쳐 우리의 방법을 평가한 결과, 심층 신경망의 의사 결정 영역이 경로 연결되어 있을 뿐만 아니라 단순 연결되어 있다는 가설을 뒷받침하는 실증적 증거를 제공한다.

English

Understanding the topology of decision regions is central to explaining the inner workings of deep neural networks. Prior empirical work has provided evidence that these regions are path connected. We study a stronger topological question: whether closed loops inside a decision region can be contracted without leaving that region. To this end, we propose an iterative quad-mesh filling procedure that constructs a finite-resolution label-preserving surface bounded by a given loop and lying entirely within the same decision region. We further connect this construction to natural Coons patches in order to quantify its deviation from a canonical geometric interpolation of the loop. By evaluating our method across several modern image-classification models, we provide empirical evidence supporting the hypothesis that decision regions in deep neural networks are not only path connected, but also simply connected.