TinyCast: 계산된 주기성을 활용한 확률적 제로샷 예측

초록

우리는 TinyCast를 소개한다. 이는 146,505개의 파라미터로 예측 분포를 출력하는 어텐션 없는 제로샷 예측기이며, 이 크기에서는 컨텍스트의 주기적 구조를 학습하는 것보다 계산하는 것이 더 가치 있다는 전제에 기반한다. 제로 파라미터 스펙트럼 검출기가 지배적인 주기들을 제공하고, 컨텍스트는 그 위상에 따라 접히며, 팽창 컨볼루션 인코더와 블록 자기회귀 분위수 디코더가 나머지를 모델링한다. 이 모델은 GIFT-Eval 리더보드에서 파라미터 수가 확인 가능한 모든 제로샷 항목보다 작다. 확률적 정확도 측면에서 크기-정확도 프런티어를 정의한다. 테스트 데이터 누출이 없음을 선언한 제로샷 항목들 중에서, 1.4M 파라미터 미만이면서 예측 분포를 출력하는 유일한 모델이며, 더 나은 점수를 얻은 모든 항목은 최소한 그만큼의 파라미터 예산을 갖는다. Chronos-ZS와 fev-bench에서 이 모델보다 앞선 모든 신경망 모델은 최소한 28배의 파라미터를 가진다. 혼합 경로가 컨볼루션과 행렬 곱셈뿐이므로 정적 INT8로 내보낼 수 있으며, 신호별 피팅 없이 임베디드 기기에서 종단 간 예측을 수행한다.

English

We introduce TinyCast, an attention-free zero-shot forecaster that emits a predictive distribution from 146,505 parameters, on the premise that at this size the periodic structure of a context is worth computing rather than learning. A zero-parameter spectral detector supplies the dominant periods, the context is folded on their phase, and a dilated convolutional encoder and a block-autoregressive quantile decoder model the rest. It is smaller than every zero-shot entry on the GIFT-Eval board whose parameter count can be established. On probabilistic accuracy it defines the size-accuracy frontier. Among zero-shot entries declaring no test-data leakage it is the only one below 1.4M parameters that emits a predictive distribution, and every entry scoring better carries at least that budget. On Chronos-ZS and fev-bench every neural model ahead of it carries at least 28 times its parameters. Because the mixing path is convolutions and matrix multiplications only, it exports to static INT8 and forecasts end to end on an embedded device without per-signal fitting.