희소성의 대가: 희소 측정과 희소화된 측정을 이용한 희소 복원을 위한 충분조건

초록

우리는 잡음이 있는 선형 측정으로부터 희소 이진 신호의 지지집합 복원 문제를 고려한다. 희소 가우시안 측정 행렬에 대해, 우리는 ds/p → ∞인 높은 SNR 영역에서 최대가능도 복원을 위한 최소 표본 크기에 대한 충분 조건을 규명한다. 여기서 p는 신호 차원, s는 신호의 비영 성분 수, d는 측정의 각 행당 비영 성분의 기대 개수를 나타낸다. 알려진 하한과 결합하면, 이는 s log(p/s) / log(ds/p) 차수의 정보이론적 임계값을 제공하며, 측정 희소성의 대가를 명시적으로 드러낸다. 특히, 우리는 측정 희소성으로 인한 표본 복잡도 손실은 로그적이고 계산적 이득은 거의 선형인 영역을 강조한다. 둘째, 우리는 원래 조밀한 가우시안 설계를 희소화한 후의 복원을 연구한다. 관측값은 조밀한 설계로부터 생성되는 반면, 추정은 독립적으로 희소화된 설계와 재조정된 응답을 사용한다. 비례 영역 s=αp, d=ψp에서, 우리는 모든 고정된 목표 오류 수준 δ와 모든 여유 ε>0에 대해, 임의로 작은 ψ에 대해 p/ψ^2 차수의 표본 크기가 지지집합 복원에 충분함을 증명한다.

English

We consider the problem of support recovery for sparse binary signals from noisy linear measurements. For sparse Gaussian measurement matrices we identify sufficient conditions on the minimal sample size for maximum-likelihood recovery in the high-SNR regime ds/p to infty, where p denotes the signal dimension, s the number of non-zero components of the signal, and d the expected number of non-zero components per row of measurement. Combined with known lower bounds, this yields an information-theoretic threshold of order slog(p/s) / log(ds/p), making explicit the price of measurement sparsity. In particular, we highlight a regime where the sample-complexity loss from measurement sparsity is logarithmic while the computational gain is nearly linear. Second, we study recovery after sparsifying an originally dense Gaussian design: the observations are generated from the dense design, while estimation uses an independently sparsified design and a rescaled response. In the proportional regime s=αp, d=ψp, we prove that, for every fixed target error level δ and every slack varepsilon>0, a sample size of order p/ψ^2 is sufficient for support recovery for arbitrarily small ψ.