LETS Прогноз: Изучение эмбедологии для прогнозирования временных рядов

LETS Forecast: Learning Embedology for Time Series Forecasting

June 6, 2025

Авторы: Abrar Majeedi, Viswanatha Reddy Gajjala, Satya Sai Srinath Namburi GNVV, Nada Magdi Elkordi, Yin Li

cs.AI

Аннотация

Реальные временные ряды часто управляются сложными нелинейными динамическими процессами. Понимание этих скрытых динамик имеет решающее значение для точного прогнозирования будущего. Хотя глубокое обучение достигло значительных успехов в прогнозировании временных рядов, многие существующие подходы не моделируют динамику явным образом. Чтобы устранить этот пробел, мы представляем DeepEDM — фреймворк, который интегрирует моделирование нелинейных динамических систем с глубокими нейронными сетями. Вдохновленный эмпирическим моделированием динамики (EDM) и основанный на теореме Такенса, DeepEDM предлагает новую глубокую модель, которая обучает латентное пространство на основе временных задержек и использует ядерную регрессию для аппроксимации скрытых динамик, одновременно применяя эффективную реализацию softmax-внимания и обеспечивая точное прогнозирование будущих временных шагов. Для оценки нашего метода мы проводим всесторонние эксперименты на синтетических данных нелинейных динамических систем, а также на реальных временных рядах из различных областей. Наши результаты показывают, что DeepEDM устойчив к входному шуму и превосходит современные методы по точности прогнозирования. Наш код доступен по адресу: https://abrarmajeedi.github.io/deep_edm.

English

Real-world time series are often governed by complex nonlinear dynamics. Understanding these underlying dynamics is crucial for precise future prediction. While deep learning has achieved major success in time series forecasting, many existing approaches do not explicitly model the dynamics. To bridge this gap, we introduce DeepEDM, a framework that integrates nonlinear dynamical systems modeling with deep neural networks. Inspired by empirical dynamic modeling (EDM) and rooted in Takens' theorem, DeepEDM presents a novel deep model that learns a latent space from time-delayed embeddings, and employs kernel regression to approximate the underlying dynamics, while leveraging efficient implementation of softmax attention and allowing for accurate prediction of future time steps. To evaluate our method, we conduct comprehensive experiments on synthetic data of nonlinear dynamical systems as well as real-world time series across domains. Our results show that DeepEDM is robust to input noise, and outperforms state-of-the-art methods in forecasting accuracy. Our code is available at: https://abrarmajeedi.github.io/deep_edm.