TinyCast：計算された周期性を用いた確率的ゼロショット予測

要旨

本稿では、TinyCastを提案する。これは、146,505個のパラメータから予測分布を出力するアテンションフリーのゼロショット予測器であり、このサイズではコンテキストの周期構造を学習するよりも計算する方が価値があるという前提に基づく。ゼロパラメータのスペクトル検出器が主要な周期を特定し、コンテキストをその位相に折り畳む。その後、膨張畳み込みエンコーダとブロック自己回帰分位デコーダが残りの構造をモデル化する。本モデルは、GIFT-Evalリーダーボード上でパラメータ数を確認できるすべてのゼロショットエントリよりも小さい。確率的精度の観点では、サイズ-精度フロンティアを定義する。テストデータ漏洩がないと宣言するゼロショットエントリの中で、予測分布を出力し、かつ1.4Mパラメータ未満のものは本モデルだけであり、より高スコアの全エントリは少なくともそのパラメータ予算を持っている。Chronos-ZSおよびfev-benchでは、本モデルより上位のすべてのニューラルモデルが、少なくとも28倍のパラメータを持つ。混合経路が畳み込みと行列乗算のみで構成されているため、静的INT8にエクスポート可能であり、信号ごとのフィッティングなしで組み込みデバイス上でエンドツーエンドの予測を実行できる。

English

We introduce TinyCast, an attention-free zero-shot forecaster that emits a predictive distribution from 146,505 parameters, on the premise that at this size the periodic structure of a context is worth computing rather than learning. A zero-parameter spectral detector supplies the dominant periods, the context is folded on their phase, and a dilated convolutional encoder and a block-autoregressive quantile decoder model the rest. It is smaller than every zero-shot entry on the GIFT-Eval board whose parameter count can be established. On probabilistic accuracy it defines the size-accuracy frontier. Among zero-shot entries declaring no test-data leakage it is the only one below 1.4M parameters that emits a predictive distribution, and every entry scoring better carries at least that budget. On Chronos-ZS and fev-bench every neural model ahead of it carries at least 28 times its parameters. Because the mixing path is convolutions and matrix multiplications only, it exports to static INT8 and forecasts end to end on an embedded device without per-signal fitting.