Skywork-Math: 大規模言語モデルにおける数学的推論のためのデータスケーリング則 ― 物語は続く

要旨

本論文では、大規模言語モデル（LLM）の数学的推論能力を向上させる潜在的な要因について調査する。現代のLLMにおける数学的推論能力のデータスケーリング則は飽和状態から程遠く、データ量の増加に伴ってモデルの品質が向上することを強調する。この主張を裏付けるため、我々はSkywork-Mathモデルシリーズを紹介する。これは、提案した250万インスタンスのSkywork-MathQAデータセットを用いて、一般的な7B LLMを教師ありファインチューニング（SFT）したものである。Skywork-Math 7Bは、SFTデータのみを使用して、競技レベルのMATHベンチマークで51.2%、GSM8Kベンチマークで83.9%という印象的な精度を達成し、MATHにおいて初期バージョンのGPT-4を上回った。Skywork-Mathモデルの優れた性能は、我々の新しい2段階のデータ合成とモデルSFTパイプラインに寄与しており、これには3つの異なる拡張方法と多様なシード問題セットが含まれ、Skywork-MathQAデータセットの量と質を様々な難易度レベルで保証している。最も重要なこととして、研究および産業応用におけるLLMの数学的推論能力を向上させるためのいくつかの実践的な知見を提供する。

English

In this paper, we investigate the underlying factors that potentially enhance the mathematical reasoning capabilities of large language models (LLMs). We argue that the data scaling law for math reasoning capabilities in modern LLMs is far from being saturated, highlighting how the model's quality improves with increases in data quantity. To support this claim, we introduce the Skywork-Math model series, supervised fine-tuned (SFT) on common 7B LLMs using our proposed 2.5M-instance Skywork-MathQA dataset. Skywork-Math 7B has achieved impressive accuracies of 51.2% on the competition-level MATH benchmark and 83.9% on the GSM8K benchmark using only SFT data, outperforming an early version of GPT-4 on MATH. The superior performance of Skywork-Math models contributes to our novel two-stage data synthesis and model SFT pipelines, which include three different augmentation methods and a diverse seed problem set, ensuring both the quantity and quality of Skywork-MathQA dataset across varying difficulty levels. Most importantly, we provide several practical takeaways to enhance math reasoning abilities in LLMs for both research and industry applications.

Skywork-Math: 大規模言語モデルにおける数学的推論のためのデータスケーリング則 ― 物語は続く

Skywork-Math: Data Scaling Laws for Mathematical Reasoning in Large Language Models -- The Story Goes On

要旨

Summary

Support

Support