Embeddings de modèles de fondation pour séries temporelles pour l'estimation de la durée de vie utile restante

Résumé

La prédiction de la durée de vie résiduelle (RUL) est essentielle pour la maintenance prédictive industrielle, pourtant de nombreuses approches basées sur l'apprentissage reposent sur une ingénierie extensive des caractéristiques ou sur de grands ensembles de données étiquetés pour entraîner des modèles séquentiels spécifiques à une tâche. Dans ce travail, nous introduisons une approche d'apprentissage léger, dans laquelle nous exploitons un modèle de fondation de séries temporelles (TSFM) pré-entraîné et gelé et le combinons avec une petite tête de régression pour estimer la RUL à partir de flux de capteurs multivariés. Plus précisément, nous utilisons Chronos-2 comme backbone gelé pour extraire les caractéristiques de fenêtres de contexte et entraîner un réseau de neurones de régression léger pour la prédiction de la RUL. Des expériences sur des données réelles de capteurs industriels provenant de deux types d'appareils montrent que les caractéristiques de Chronos-2 améliorent systématiquement les lignes de base récurrentes, convolutionnelles, basées sur Transformers et sur le gradient boosting sous le même protocole de prétraitement et d'évaluation. Nous analysons également l'impact de la longueur du contexte et constatons que les performances s'améliorent significativement avec des historiques plus longs, ce qui indique que les représentations des TSFM offrent une alternative pratique et économe en données pour l'estimation de la RUL dans les environnements industriels.

English

Remaining Useful Life (RUL) prediction is essential for industrial predictive maintenance, yet many learning-based approaches rely on extensive feature engineering or large labeled datasets to train task-specific sequence models. In this work, we introduce a lightweight learning approach, in which we leverage a frozen pretrained time-series foundation model (TSFM) and combine it with a small regression head for RUL estimation from multivariate sensor streams. More specifically, we use Chronos-2 as a frozen backbone to extract context window features and train a lightweight regression neural network for RUL prediction. Experiments on real-world industrial sensor data from two device types show that Chronos-2 features consistently improve over recurrent, convolutional, Transformer-based, and gradient-boosting baselines under the same preprocessing and evaluation protocol. We further analyze the impact of context length and find that performance improves significantly with longer histories, indicating that TSFM representation offer a practical and data-efficient alternative for RUL estimation in industrial settings.