暗黙のニューラル表現のための単層学習可能な活性化関数（SL^{2}A-INR）

Single-Layer Learnable Activation for Implicit Neural Representation (SL^{2}A-INR)

September 17, 2024

著者: Moein Heidari, Reza Rezaeian, Reza Azad, Dorit Merhof, Hamid Soltanian-Zadeh, Ilker Hacihaliloglu

cs.AI

要旨

暗黙のニューラル表現（INR）は、ニューラルネットワークを活用して座標入力を対応する属性に変換することで、最近、いくつかのビジョン関連領域で大きな進展を遂げています。ただし、INRの性能は、その多層パーセプトロン（MLP）アーキテクチャで使用される非線形活性化関数の選択に大きく影響を受けます。複数の非線形性が調査されていますが、現在のINRは高周波成分、多様な信号タイプ、逆問題の取り扱いにおいて制限があります。これらの問題は、INRにおいてパラダイムシフトを導入することで大幅に緩和できることを特定しました。初期層に学習可能な活性化関数を持つアーキテクチャが、基礎信号の微細な詳細を表現できることを見出しました。具体的には、SL^{2}A-INRという、単一層学習可能な活性化関数を持つINR向けのハイブリッドネットワークを提案し、従来のReLUベースのMLPの効果を促します。当該手法は、画像表現、3D形状再構築、インペインティング、単一画像の超解像、CT再構築、新しい視点合成を含む多様なタスクにおいて優れた性能を発揮します。包括的な実験により、SL^{2}A-INRはINRにおいて精度、品質、収束速度の新たな基準を設定します。

English

Implicit Neural Representation (INR), leveraging a neural network to transform coordinate input into corresponding attributes, has recently driven significant advances in several vision-related domains. However, the performance of INR is heavily influenced by the choice of the nonlinear activation function used in its multilayer perceptron (MLP) architecture. Multiple nonlinearities have been investigated; yet, current INRs face limitations in capturing high-frequency components, diverse signal types, and handling inverse problems. We have identified that these problems can be greatly alleviated by introducing a paradigm shift in INRs. We find that an architecture with learnable activations in initial layers can represent fine details in the underlying signals. Specifically, we propose SL^{2}A-INR, a hybrid network for INR with a single-layer learnable activation function, prompting the effectiveness of traditional ReLU-based MLPs. Our method performs superior across diverse tasks, including image representation, 3D shape reconstructions, inpainting, single image super-resolution, CT reconstruction, and novel view synthesis. Through comprehensive experiments, SL^{2}A-INR sets new benchmarks in accuracy, quality, and convergence rates for INR.