Embeddings de modelos fundacionales de series temporales para la estimación de la vida útil restante

Resumen

La predicción de la Vida Útil Restante (RUL) es esencial para el mantenimiento predictivo industrial; sin embargo, muchos enfoques basados en aprendizaje automático dependen de una extensa ingeniería de características o de grandes conjuntos de datos etiquetados para entrenar modelos secuenciales específicos de cada tarea. En este trabajo, presentamos un enfoque de aprendizaje ligero en el que aprovechamos un modelo base preentrenado y congelado de series temporales (TSFM) y lo combinamos con una pequeña cabeza de regresión para la estimación de RUL a partir de flujos de sensores multivariantes. Más concretamente, utilizamos Chronos-2 como columna vertebral congelada para extraer características de ventana de contexto y entrenamos una red neuronal de regresión ligera para predecir la RUL. Los experimentos realizados con datos reales de sensores industriales de dos tipos de dispositivos muestran que las características de Chronos-2 mejoran consistentemente en comparación con las líneas base recurrentes, convolucionales, basadas en Transformer y de gradiente potenciado bajo el mismo protocolo de preprocesamiento y evaluación. Además, analizamos el impacto de la longitud de contexto y observamos que el rendimiento mejora significativamente con historiales más largos, lo que indica que las representaciones de TSFM ofrecen una alternativa práctica y eficiente en términos de datos para la estimación de RUL en entornos industriales.

English

Remaining Useful Life (RUL) prediction is essential for industrial predictive maintenance, yet many learning-based approaches rely on extensive feature engineering or large labeled datasets to train task-specific sequence models. In this work, we introduce a lightweight learning approach, in which we leverage a frozen pretrained time-series foundation model (TSFM) and combine it with a small regression head for RUL estimation from multivariate sensor streams. More specifically, we use Chronos-2 as a frozen backbone to extract context window features and train a lightweight regression neural network for RUL prediction. Experiments on real-world industrial sensor data from two device types show that Chronos-2 features consistently improve over recurrent, convolutional, Transformer-based, and gradient-boosting baselines under the same preprocessing and evaluation protocol. We further analyze the impact of context length and find that performance improves significantly with longer histories, indicating that TSFM representation offer a practical and data-efficient alternative for RUL estimation in industrial settings.