Эффективный выбор моделей для прогнозирования временных рядов с использованием больших языковых моделей

Efficient Model Selection for Time Series Forecasting via LLMs

April 2, 2025

Авторы: Wang Wei, Tiankai Yang, Hongjie Chen, Ryan A. Rossi, Yue Zhao, Franck Dernoncourt, Hoda Eldardiry

cs.AI

Аннотация

Выбор модели является критически важным этапом в прогнозировании временных рядов, традиционно требующим обширной оценки производительности на различных наборах данных. Методы метаобучения направлены на автоматизацию этого процесса, но они обычно зависят от предварительно построенных матриц производительности, создание которых требует значительных затрат. В данной работе мы предлагаем использовать крупные языковые модели (LLM) в качестве легковесной альтернативы для выбора модели. Наш метод устраняет необходимость в явных матрицах производительности, используя внутренние знания и способности к рассуждению, присущие LLM. В ходе обширных экспериментов с моделями LLaMA, GPT и Gemini мы демонстрируем, что наш подход превосходит традиционные методы метаобучения и эвристические базовые методы, при этом значительно снижая вычислительные затраты. Эти результаты подчеркивают потенциал LLM в эффективном выборе моделей для прогнозирования временных рядов.

English

Model selection is a critical step in time series forecasting, traditionally requiring extensive performance evaluations across various datasets. Meta-learning approaches aim to automate this process, but they typically depend on pre-constructed performance matrices, which are costly to build. In this work, we propose to leverage Large Language Models (LLMs) as a lightweight alternative for model selection. Our method eliminates the need for explicit performance matrices by utilizing the inherent knowledge and reasoning capabilities of LLMs. Through extensive experiments with LLaMA, GPT and Gemini, we demonstrate that our approach outperforms traditional meta-learning techniques and heuristic baselines, while significantly reducing computational overhead. These findings underscore the potential of LLMs in efficient model selection for time series forecasting.