スパース性の代償：スパース測定およびスパース化測定を用いたスパース復元のための十分条件

要旨

我々は、雑音付き線形測定からスパース二値信号のサポート回復を行う問題を考える。スパースなガウス測定行列に対して、高SNR領域 \(ds/p\to\infty\) における最尤復元のための最小標本サイズに関する十分条件を同定する。ここで \(p\) は信号次元、\(s\) は信号の非零成分数、\(d\) は測定行列の各行あたりの非零成分の期待数を表す。既知の下界と組み合わせると、これはオーダー \(s\log(p/s)/\log(ds/p)\) の情報理論的しきい値をもたらし、測定のスパース性の代償を明示する。特に、測定のスパース性による標本複雑度の損失が対数的である一方、計算上の利得がほぼ線形である領域を強調する。次に、もともと密なガウスデザインをスパース化した後の復元を研究する。観測は密なデザインから生成される一方、推定には独立にスパース化されたデザインと再スケーリングされた応答を用いる。比例領域 \(s=\alpha p\), \(d=\psi p\) において、任意の固定された目標誤り水準 \(\delta\) と任意の余裕 \(\varepsilon>0\) に対して、オーダー \(p/\psi^2\) の標本サイズが、任意に小さい \(\psi\) に対してもサポート回復に十分であることを証明する。

English

We consider the problem of support recovery for sparse binary signals from noisy linear measurements. For sparse Gaussian measurement matrices we identify sufficient conditions on the minimal sample size for maximum-likelihood recovery in the high-SNR regime ds/p to infty, where p denotes the signal dimension, s the number of non-zero components of the signal, and d the expected number of non-zero components per row of measurement. Combined with known lower bounds, this yields an information-theoretic threshold of order slog(p/s) / log(ds/p), making explicit the price of measurement sparsity. In particular, we highlight a regime where the sample-complexity loss from measurement sparsity is logarithmic while the computational gain is nearly linear. Second, we study recovery after sparsifying an originally dense Gaussian design: the observations are generated from the dense design, while estimation uses an independently sparsified design and a rescaled response. In the proportional regime s=αp, d=ψp, we prove that, for every fixed target error level δ and every slack varepsilon>0, a sample size of order p/ψ^2 is sufficient for support recovery for arbitrarily small ψ.