LETS Prognose: Lernende Embedologie für Zeitreihenvorhersage

LETS Forecast: Learning Embedology for Time Series Forecasting

June 6, 2025

Autoren: Abrar Majeedi, Viswanatha Reddy Gajjala, Satya Sai Srinath Namburi GNVV, Nada Magdi Elkordi, Yin Li

cs.AI

Zusammenfassung

Zeitreihen aus der realen Welt werden oft von komplexen nichtlinearen Dynamiken bestimmt. Das Verständnis dieser zugrunde liegenden Dynamiken ist entscheidend für präzise Vorhersagen der Zukunft. Während Deep Learning große Erfolge in der Zeitreihenvorhersage erzielt hat, modellieren viele bestehende Ansätze die Dynamiken nicht explizit. Um diese Lücke zu schließen, stellen wir DeepEDM vor, ein Framework, das die Modellierung nichtlinearer dynamischer Systeme mit tiefen neuronalen Netzwerken integriert. Inspiriert vom empirischen dynamischen Modellieren (EDM) und basierend auf dem Satz von Takens, präsentiert DeepEDM ein neuartiges Deep-Modell, das einen latenten Raum aus zeitverzögerten Einbettungen lernt und Kernel-Regression verwendet, um die zugrunde liegenden Dynamiken anzunähern. Dabei nutzt es eine effiziente Implementierung von Softmax-Attention und ermöglicht eine präzise Vorhersage zukünftiger Zeitschritte. Um unsere Methode zu bewerten, führen wir umfassende Experimente mit synthetischen Daten nichtlinearer dynamischer Systeme sowie realen Zeitreihen aus verschiedenen Domänen durch. Unsere Ergebnisse zeigen, dass DeepEDM robust gegenüber Eingangsrauschen ist und state-of-the-art Methoden in der Vorhersagegenauigkeit übertrifft. Unser Code ist verfügbar unter: https://abrarmajeedi.github.io/deep_edm.

English

Real-world time series are often governed by complex nonlinear dynamics. Understanding these underlying dynamics is crucial for precise future prediction. While deep learning has achieved major success in time series forecasting, many existing approaches do not explicitly model the dynamics. To bridge this gap, we introduce DeepEDM, a framework that integrates nonlinear dynamical systems modeling with deep neural networks. Inspired by empirical dynamic modeling (EDM) and rooted in Takens' theorem, DeepEDM presents a novel deep model that learns a latent space from time-delayed embeddings, and employs kernel regression to approximate the underlying dynamics, while leveraging efficient implementation of softmax attention and allowing for accurate prediction of future time steps. To evaluate our method, we conduct comprehensive experiments on synthetic data of nonlinear dynamical systems as well as real-world time series across domains. Our results show that DeepEDM is robust to input noise, and outperforms state-of-the-art methods in forecasting accuracy. Our code is available at: https://abrarmajeedi.github.io/deep_edm.