MIGA: Mezcla de Expertos con Agregación de Grupos para la Predicción del Mercado de Valores

MIGA: Mixture-of-Experts with Group Aggregation for Stock Market Prediction

October 3, 2024

Autores: Zhaojian Yu, Yinghao Wu, Genesis Wang, Heming Weng

cs.AI

Resumen

La predicción del mercado de valores ha seguido siendo un problema sumamente desafiante durante muchas décadas debido a su inherente alta volatilidad y baja relación ruidosa de información. Las soluciones existentes basadas en aprendizaje automático o aprendizaje profundo demuestran un rendimiento superior al emplear un solo modelo entrenado en todo el conjunto de datos de acciones para generar predicciones en todos los tipos de acciones. Sin embargo, debido a las significativas variaciones en los estilos de acciones y las tendencias del mercado, un solo modelo de extremo a extremo lucha por capturar completamente las diferencias en estas características estilizadas de acciones, lo que conduce a predicciones relativamente inexactas para todos los tipos de acciones. En este documento, presentamos MIGA, un novedoso marco de Mezcla de Expertos con Agregación de Grupos diseñado para generar predicciones especializadas para acciones con diferentes estilos al alternar dinámicamente entre expertos de estilos distintos. Para fomentar la colaboración entre diferentes expertos en MIGA, proponemos una novedosa arquitectura de atención interna de grupo, que permite a los expertos dentro del mismo grupo compartir información y, por lo tanto, mejorar el rendimiento general de todos los expertos. Como resultado, MIGA supera significativamente a otros modelos de extremo a extremo en tres índices bursátiles chinos, incluidos CSI300, CSI500 y CSI1000. Especialmente, MIGA-Conv alcanza un rendimiento anual excedente del 24 % en el índice CSI300, superando al modelo anterior de vanguardia en un 8 % absoluto. Además, realizamos un análisis exhaustivo de la mezcla de expertos para la predicción del mercado de valores, proporcionando ideas valiosas para investigaciones futuras.

English

Stock market prediction has remained an extremely challenging problem for many decades owing to its inherent high volatility and low information noisy ratio. Existing solutions based on machine learning or deep learning demonstrate superior performance by employing a single model trained on the entire stock dataset to generate predictions across all types of stocks. However, due to the significant variations in stock styles and market trends, a single end-to-end model struggles to fully capture the differences in these stylized stock features, leading to relatively inaccurate predictions for all types of stocks. In this paper, we present MIGA, a novel Mixture of Expert with Group Aggregation framework designed to generate specialized predictions for stocks with different styles by dynamically switching between distinct style experts. To promote collaboration among different experts in MIGA, we propose a novel inner group attention architecture, enabling experts within the same group to share information and thereby enhancing the overall performance of all experts. As a result, MIGA significantly outperforms other end-to-end models on three Chinese Stock Index benchmarks including CSI300, CSI500, and CSI1000. Notably, MIGA-Conv reaches 24 % excess annual return on CSI300 benchmark, surpassing the previous state-of-the-art model by 8% absolute. Furthermore, we conduct a comprehensive analysis of mixture of experts for stock market prediction, providing valuable insights for future research.