量子ダイナミクス予測のための相補的行列ゲート型QKANファストウェイト・プログラマー

要旨

系列モデルは、メモリに何を書き込むか、何を保持するかを決定しなければならない。量子および量子に着想を得た系列学習では、非線形なリカレント更新はしばしば回路評価の反復と時間方向の逐次誤差逆伝播を必要とするため、長いコンテキストではコストが高くなる。量子に着想を得たコルモゴロフ=アーノルドネットワーク（QKAN）に基づくゲート付き高速ウェイトプログラマ（FWP）は、コンテキストを時間変化する高速パラメータに格納することで、このボトルネックを緩和する。しかし、そのスカラーゲートは、単一の保持・書き込みバランスを全ての高速状態座標に適用するため、全パラメータが同一のメモリ時定数を共有せざるを得ない。我々は、このブロードキャストゲートを、低ランク生成による要素ごとの変調に置き換えた自己変調型QKANベースFWPを導入する。この変調は、新しい提案ブランチ、有界な旧状態ブランチ、またはその両方に適用される。さらに我々は、相補行列ゲーティング（Complementary Matrix Gating, CMG）を提案する。これは、1つのシグモイド行列ゲートを用いて旧状態を保持し、その補（complement）を用いて新しい提案を書き込む。CMGは、スカラーゲーティングの有界な凸更新構造とアフィン・プレフィックススキャン構造を保ちつつ、座標ごとのメモリ制御を提供し、単一分岐規則からなる変調ヘッドというコストのみで実現される。我々は、古典およびQKANベースの低速・高速プログラマを組み合わせた4つのFWPアーキテクチャにわたり、4つの自己変調規則をスカラーゲーティングと比較する。7つの1ステップ予測ベンチマークと5つの系列長にわたり、CMGは、高速プログラマがQKANベースのモジュールを組み込んだアーキテクチャに対して最も一貫した改善をもたらす。CUDA-Q Dynamicsを用いてシミュレーションされたJaynes-Cummingsおよびトランスモン共振器ダイナミクスの直接マルチステップ予測では、CMGモデルは、予測ホライズン4、8、16ステップにわたり平均二乗誤差を0.001程度以下に維持し、スカラーゲート付きの対応モデルと比較して少なくとも91.2%の改善を達成する。これらの結果は、座標ごとの相補的変調がQKANベースFWPにとって安定かつ効果的な更新であることを確立するものである。

English

Sequence models must decide what to write into memory and what to retain. In quantum and quantum-inspired sequence learning, nonlinear recurrent updates often require repeated circuit evaluations and sequential backpropagation through time, making long contexts costly. Gated fast-weight programmers (FWPs) based on quantum-inspired Kolmogorov-Arnold networks (QKANs) alleviate this bottleneck by storing context in time-varying fast parameters. However, their scalar gate applies one retention-write balance to every fast-state coordinate, forcing all parameters to share a memory timescale. We introduce Self-Modulating QKAN-based FWPs, which replace this broadcast gate with low-rank-generated element-wise modulation of the new-proposal branch, a bounded old-state branch, or both. We further propose Complementary Matrix Gating (CMG), which uses one sigmoid matrix gate to retain the old state and its complement to write the new proposal. CMG provides coordinate-wise memory control while preserving the bounded convex update and affine prefix-scan structure of scalar gating, at the modulation-head cost of a single-branch rule. We compare four self-modulating rules with scalar gating across four FWP architectures combining classical and QKAN-based slow and fast programmers. Across seven single-step forecasting benchmarks and five sequence lengths, CMG gives the most consistent improvements for architectures whose fast programmer incorporates a QKAN-based module. In direct multi-step forecasting of Jaynes-Cummings and transmon-resonator dynamics simulated with CUDA-Q Dynamics, CMG models maintain mean-squared errors on the order of 0.001 or lower across forecasting horizons of 4, 8, and 16 steps, while improving on their scalar-gated counterparts by at least 91.2%. These results establish coordinate-wise complementary modulation as a stable and effective update for QKAN-based FWPs.