MIGA : Mélange d'experts avec agrégation de groupe pour la prédiction du marché boursier

MIGA: Mixture-of-Experts with Group Aggregation for Stock Market Prediction

October 3, 2024

Auteurs: Zhaojian Yu, Yinghao Wu, Genesis Wang, Heming Weng

cs.AI

Résumé

La prédiction du marché boursier est restée un problème extrêmement difficile depuis de nombreuses décennies en raison de sa haute volatilité inhérente et de son faible ratio bruit/information. Les solutions existantes basées sur l'apprentissage automatique ou l'apprentissage profond démontrent des performances supérieures en utilisant un seul modèle entraîné sur l'ensemble des données boursières pour générer des prédictions pour tous types d'actions. Cependant, en raison des variations significatives dans les styles d'actions et les tendances du marché, un seul modèle de bout en bout peine à capturer pleinement les différences dans ces caractéristiques stylisées des actions, entraînant des prédictions relativement inexactes pour tous types d'actions. Dans cet article, nous présentons MIGA, un nouveau cadre Mélange d'Experts avec Agrégation de Groupes conçu pour générer des prédictions spécialisées pour des actions avec différents styles en basculant dynamiquement entre des experts de styles distincts. Pour promouvoir la collaboration entre les différents experts dans MIGA, nous proposons une nouvelle architecture d'attention de groupe interne, permettant aux experts du même groupe de partager des informations et ainsi améliorer les performances globales de tous les experts. En conséquence, MIGA surpasse significativement les autres modèles de bout en bout sur trois indices boursiers chinois, y compris CSI300, CSI500 et CSI1000. Notamment, MIGA-Conv atteint un excédent de rendement annuel de 24 % sur l'indice CSI300, dépassant le modèle précédent de pointe de 8 % en absolu. De plus, nous menons une analyse approfondie du mélange d'experts pour la prédiction du marché boursier, fournissant des perspectives précieuses pour les futures recherches.

English

Stock market prediction has remained an extremely challenging problem for many decades owing to its inherent high volatility and low information noisy ratio. Existing solutions based on machine learning or deep learning demonstrate superior performance by employing a single model trained on the entire stock dataset to generate predictions across all types of stocks. However, due to the significant variations in stock styles and market trends, a single end-to-end model struggles to fully capture the differences in these stylized stock features, leading to relatively inaccurate predictions for all types of stocks. In this paper, we present MIGA, a novel Mixture of Expert with Group Aggregation framework designed to generate specialized predictions for stocks with different styles by dynamically switching between distinct style experts. To promote collaboration among different experts in MIGA, we propose a novel inner group attention architecture, enabling experts within the same group to share information and thereby enhancing the overall performance of all experts. As a result, MIGA significantly outperforms other end-to-end models on three Chinese Stock Index benchmarks including CSI300, CSI500, and CSI1000. Notably, MIGA-Conv reaches 24 % excess annual return on CSI300 benchmark, surpassing the previous state-of-the-art model by 8% absolute. Furthermore, we conduct a comprehensive analysis of mixture of experts for stock market prediction, providing valuable insights for future research.