量子変分活性化関数がコルモゴロフ-アーノルドネットワークを強化する

Quantum Variational Activation Functions Empower Kolmogorov-Arnold Networks

September 17, 2025

著者: Jiun-Cheng Jiang, Morris Yu-Chao Huang, Tianlong Chen, Hsi-Sheng Goan

cs.AI

要旨

変分量子回路（VQCs）は量子機械学習の中心的な要素であり、一方で最近のKolmogorov-Arnoldネットワーク（KANs）の進展は学習可能な活性化関数の力を強調しています。本研究では、これらの方向性を統合し、単一量子ビットのデータ再アップロード回路であるDatA Re-Uploading ActivatioNs（DARUANs）を通じて実現される量子変分活性化関数（QVAFs）を導入します。データ前処理における学習可能な重みを持つDARUANは、データの繰り返しに伴って指数関数的に増加する周波数スペクトルを持ち、表現力を損なうことなくフーリエベースの活性化関数と比較してパラメータサイズを指数関数的に削減できることを示します。DARUANをKANsに組み込むことで、量子インスパイアされたKANs（QKANs）が得られ、KANsの解釈可能性を維持しながら、パラメータ効率、表現力、および汎化性能を向上させます。さらに、スケーラビリティ、実現可能性、計算効率を向上させるための2つの新しい技術、すなわちレイヤー拡張とハイブリッドQKANs（HQKANs）を導入し、大規模モデルにおけるフィードフォワードネットワークの多層パーセプトロン（MLPs）の代替として使用します。関数回帰、画像分類、および自己回帰生成言語モデリングに関する理論的分析と広範な実験を通じて、QKANsの効率性とスケーラビリティを実証します。DARUANsとQKANsは、ノイズのある中規模量子（NISQ）ハードウェアおよび古典的な量子シミュレータの両方において、量子機械学習を進展させる有望な方向性を提供します。

English

Variational quantum circuits (VQCs) are central to quantum machine learning, while recent progress in Kolmogorov-Arnold networks (KANs) highlights the power of learnable activation functions. We unify these directions by introducing quantum variational activation functions (QVAFs), realized through single-qubit data re-uploading circuits called DatA Re-Uploading ActivatioNs (DARUANs). We show that DARUAN with trainable weights in data pre-processing possesses an exponentially growing frequency spectrum with data repetitions, enabling an exponential reduction in parameter size compared with Fourier-based activations without loss of expressivity. Embedding DARUAN into KANs yields quantum-inspired KANs (QKANs), which retain the interpretability of KANs while improving their parameter efficiency, expressivity, and generalization. We further introduce two novel techniques to enhance scalability, feasibility and computational efficiency, such as layer extension and hybrid QKANs (HQKANs) as drop-in replacements of multi-layer perceptrons (MLPs) for feed-forward networks in large-scale models. We provide theoretical analysis and extensive experiments on function regression, image classification, and autoregressive generative language modeling, demonstrating the efficiency and scalability of QKANs. DARUANs and QKANs offer a promising direction for advancing quantum machine learning on both noisy intermediate-scale quantum (NISQ) hardware and classical quantum simulators.