MIGA: Mischung von Experten mit Gruppenaggregation für die Vorhersage des Aktienmarktes

MIGA: Mixture-of-Experts with Group Aggregation for Stock Market Prediction

October 3, 2024

Autoren: Zhaojian Yu, Yinghao Wu, Genesis Wang, Heming Weng

cs.AI

Zusammenfassung

Die Vorhersage des Aktienmarktes ist seit vielen Jahrzehnten ein äußerst herausforderndes Problem aufgrund seiner inhärenten hohen Volatilität und des niedrigen Informationsrauschverhältnisses. Bestehende Lösungen, die auf maschinellem Lernen oder Deep Learning basieren, zeigen eine überlegene Leistung, indem sie ein einzelnes Modell verwenden, das auf dem gesamten Aktiendatensatz trainiert ist, um Vorhersagen für alle Arten von Aktien zu generieren. Aufgrund der erheblichen Unterschiede in Aktienstilen und Markttrends hat ein einzelnes End-to-End-Modell Schwierigkeiten, die Unterschiede in diesen stilisierten Aktienmerkmalen vollständig zu erfassen, was zu relativ ungenauen Vorhersagen für alle Arten von Aktien führt. In diesem Papier präsentieren wir MIGA, ein neuartiges Rahmenwerk für eine Mischung von Experten mit Gruppenaggregation, das entwickelt wurde, um spezialisierte Vorhersagen für Aktien mit unterschiedlichen Stilen zu generieren, indem es dynamisch zwischen verschiedenen Stilexperten wechselt. Um die Zusammenarbeit zwischen verschiedenen Experten in MIGA zu fördern, schlagen wir eine neuartige Architektur für innere Gruppenaufmerksamkeit vor, die Experten innerhalb derselben Gruppe ermöglicht, Informationen zu teilen und damit die Gesamtleistung aller Experten zu verbessern. Als Ergebnis übertrifft MIGA signifikant andere End-to-End-Modelle auf drei chinesischen Aktienindex-Benchmarks, einschließlich CSI300, CSI500 und CSI1000. Bemerkenswerterweise erreicht MIGA-Conv eine um 24 % höhere jährliche Rendite auf dem CSI300-Index und übertrifft das bisherige Spitzenmodell um 8 % absolut. Darüber hinaus führen wir eine umfassende Analyse der Mischung von Experten für die Aktienmarktprognose durch und liefern wertvolle Einblicke für zukünftige Forschung.

English

Stock market prediction has remained an extremely challenging problem for many decades owing to its inherent high volatility and low information noisy ratio. Existing solutions based on machine learning or deep learning demonstrate superior performance by employing a single model trained on the entire stock dataset to generate predictions across all types of stocks. However, due to the significant variations in stock styles and market trends, a single end-to-end model struggles to fully capture the differences in these stylized stock features, leading to relatively inaccurate predictions for all types of stocks. In this paper, we present MIGA, a novel Mixture of Expert with Group Aggregation framework designed to generate specialized predictions for stocks with different styles by dynamically switching between distinct style experts. To promote collaboration among different experts in MIGA, we propose a novel inner group attention architecture, enabling experts within the same group to share information and thereby enhancing the overall performance of all experts. As a result, MIGA significantly outperforms other end-to-end models on three Chinese Stock Index benchmarks including CSI300, CSI500, and CSI1000. Notably, MIGA-Conv reaches 24 % excess annual return on CSI300 benchmark, surpassing the previous state-of-the-art model by 8% absolute. Furthermore, we conduct a comprehensive analysis of mixture of experts for stock market prediction, providing valuable insights for future research.