MIGA: Mistura de Especialistas com Agregação em Grupo para Previsão do Mercado de Ações

MIGA: Mixture-of-Experts with Group Aggregation for Stock Market Prediction

October 3, 2024

Autores: Zhaojian Yu, Yinghao Wu, Genesis Wang, Heming Weng

cs.AI

Resumo

A previsão do mercado de ações tem sido um problema extremamente desafiador por muitas décadas, devido à sua alta volatilidade inerente e baixa relação ruidosa de informações. As soluções existentes baseadas em aprendizado de máquina ou aprendizado profundo demonstram desempenho superior ao empregar um único modelo treinado em todo o conjunto de dados de ações para gerar previsões em todos os tipos de ações. No entanto, devido às significativas variações nos estilos de ações e tendências de mercado, um único modelo de ponta a ponta tem dificuldade em capturar totalmente as diferenças nessas características estilizadas das ações, levando a previsões relativamente imprecisas para todos os tipos de ações. Neste artigo, apresentamos o MIGA, um novo framework de Mistura de Especialistas com Agregação de Grupo projetado para gerar previsões especializadas para ações com estilos diferentes, alternando dinamicamente entre especialistas de estilos distintos. Para promover a colaboração entre diferentes especialistas no MIGA, propomos uma nova arquitetura de atenção interna de grupo, permitindo que especialistas dentro do mesmo grupo compartilhem informações e, assim, aprimorem o desempenho geral de todos os especialistas. Como resultado, o MIGA supera significativamente outros modelos de ponta a ponta em três benchmarks do Índice de Ações Chinês, incluindo CSI300, CSI500 e CSI1000. Notavelmente, o MIGA-Conv alcança um retorno anual excedente de 24% no benchmark CSI300, superando o modelo anterior de ponta a ponta em 8% absolutos. Além disso, realizamos uma análise abrangente da mistura de especialistas para a previsão do mercado de ações, fornecendo insights valiosos para pesquisas futuras.

English

Stock market prediction has remained an extremely challenging problem for many decades owing to its inherent high volatility and low information noisy ratio. Existing solutions based on machine learning or deep learning demonstrate superior performance by employing a single model trained on the entire stock dataset to generate predictions across all types of stocks. However, due to the significant variations in stock styles and market trends, a single end-to-end model struggles to fully capture the differences in these stylized stock features, leading to relatively inaccurate predictions for all types of stocks. In this paper, we present MIGA, a novel Mixture of Expert with Group Aggregation framework designed to generate specialized predictions for stocks with different styles by dynamically switching between distinct style experts. To promote collaboration among different experts in MIGA, we propose a novel inner group attention architecture, enabling experts within the same group to share information and thereby enhancing the overall performance of all experts. As a result, MIGA significantly outperforms other end-to-end models on three Chinese Stock Index benchmarks including CSI300, CSI500, and CSI1000. Notably, MIGA-Conv reaches 24 % excess annual return on CSI300 benchmark, surpassing the previous state-of-the-art model by 8% absolute. Furthermore, we conduct a comprehensive analysis of mixture of experts for stock market prediction, providing valuable insights for future research.