LETS Forecast: Aprendizaje de Embedología para la Predicción de Series Temporales

LETS Forecast: Learning Embedology for Time Series Forecasting

June 6, 2025

Autores: Abrar Majeedi, Viswanatha Reddy Gajjala, Satya Sai Srinath Namburi GNVV, Nada Magdi Elkordi, Yin Li

cs.AI

Resumen

Las series temporales del mundo real suelen estar gobernadas por dinámicas no lineales complejas. Comprender estas dinámicas subyacentes es crucial para realizar predicciones futuras precisas. Si bien el aprendizaje profundo ha logrado un gran éxito en la predicción de series temporales, muchos enfoques existentes no modelan explícitamente las dinámicas. Para cerrar esta brecha, presentamos DeepEDM, un marco que integra el modelado de sistemas dinámicos no lineales con redes neuronales profundas. Inspirado en el modelado dinámico empírico (EDM) y basado en el teorema de Takens, DeepEDM presenta un modelo profundo novedoso que aprende un espacio latente a partir de incrustaciones con retardo temporal, y emplea regresión de kernel para aproximar las dinámicas subyacentes, al tiempo que aprovecha una implementación eficiente de atención softmax y permite la predicción precisa de pasos temporales futuros. Para evaluar nuestro método, realizamos experimentos exhaustivos con datos sintéticos de sistemas dinámicos no lineales, así como con series temporales del mundo real en diversos dominios. Nuestros resultados muestran que DeepEDM es robusto al ruido en la entrada y supera a los métodos más avanzados en precisión de predicción. Nuestro código está disponible en: https://abrarmajeedi.github.io/deep_edm.

English

Real-world time series are often governed by complex nonlinear dynamics. Understanding these underlying dynamics is crucial for precise future prediction. While deep learning has achieved major success in time series forecasting, many existing approaches do not explicitly model the dynamics. To bridge this gap, we introduce DeepEDM, a framework that integrates nonlinear dynamical systems modeling with deep neural networks. Inspired by empirical dynamic modeling (EDM) and rooted in Takens' theorem, DeepEDM presents a novel deep model that learns a latent space from time-delayed embeddings, and employs kernel regression to approximate the underlying dynamics, while leveraging efficient implementation of softmax attention and allowing for accurate prediction of future time steps. To evaluate our method, we conduct comprehensive experiments on synthetic data of nonlinear dynamical systems as well as real-world time series across domains. Our results show that DeepEDM is robust to input noise, and outperforms state-of-the-art methods in forecasting accuracy. Our code is available at: https://abrarmajeedi.github.io/deep_edm.