StarCoder 2とThe Stack v2:次世代の進化
StarCoder 2 and The Stack v2: The Next Generation
February 29, 2024
著者: Anton Lozhkov, Raymond Li, Loubna Ben Allal, Federico Cassano, Joel Lamy-Poirier, Nouamane Tazi, Ao Tang, Dmytro Pykhtar, Jiawei Liu, Yuxiang Wei, Tianyang Liu, Max Tian, Denis Kocetkov, Arthur Zucker, Younes Belkada, Zijian Wang, Qian Liu, Dmitry Abulkhanov, Indraneil Paul, Zhuang Li, Wen-Ding Li, Megan Risdal, Jia Li, Jian Zhu, Terry Yue Zhuo, Evgenii Zheltonozhskii, Nii Osae Osae Dade, Wenhao Yu, Lucas Krauß, Naman Jain, Yixuan Su, Xuanli He, Manan Dey, Edoardo Abati, Yekun Chai, Niklas Muennighoff, Xiangru Tang, Muhtasham Oblokulov, Christopher Akiki, Marc Marone, Chenghao Mou, Mayank Mishra, Alex Gu, Binyuan Hui, Tri Dao, Armel Zebaze, Olivier Dehaene, Nicolas Patry, Canwen Xu, Julian McAuley, Han Hu, Torsten Scholak, Sebastien Paquet, Jennifer Robinson, Carolyn Jane Anderson, Nicolas Chapados, Mostofa Patwary, Nima Tajbakhsh, Yacine Jernite, Carlos Muñoz Ferrandis, Lingming Zhang, Sean Hughes, Thomas Wolf, Arjun Guha, Leandro von Werra, Harm de Vries
cs.AI
要旨
BigCodeプロジェクトは、コード向け大規模言語モデル(Code LLMs)の責任ある開発に焦点を当てたオープンサイエンスの共同プロジェクトであり、StarCoder2を発表しました。Software Heritage(SWH)とのパートナーシップの下、私たちは彼らのソースコードアーカイブのデジタルコモンズ上にThe Stack v2を構築しました。619のプログラミング言語にわたるSWHリポジトリに加え、GitHubのプルリクエスト、Kaggleのノートブック、コードドキュメントなどの高品質なデータソースを慎重に選定しました。これにより、最初のStarCoderデータセットの4倍の規模を持つトレーニングセットが作成されました。StarCoder2モデル(3B、7B、15Bパラメータ)を3.3兆から4.3兆トークンでトレーニングし、包括的なCode LLMベンチマークセットで徹底的に評価しました。その結果、小型モデルであるStarCoder2-3Bは、ほとんどのベンチマークで同サイズの他のCode LLMを上回り、StarCoderBase-15Bをも凌駕しました。大型モデルであるStarCoder2-15Bは、同サイズの他のモデルを大幅に上回り、さらにその2倍以上のサイズを持つCodeLlama-34Bに匹敵またはそれを上回る性能を示しました。DeepSeekCoder-33Bは高リソース言語におけるコード補完で最高の性能を発揮しますが、StarCoder2-15Bは数学およびコード推論のベンチマーク、およびいくつかの低リソース言語においてそれを上回りました。モデルの重みはOpenRAILライセンスの下で公開し、ソースコードデータのSoftWare Heritage永続識別子(SWHIDs)をリリースすることで、トレーニングデータに関する完全な透明性を確保しました。
English
The BigCode project, an open-scientific collaboration focused on the
responsible development of Large Language Models for Code (Code LLMs),
introduces StarCoder2. In partnership with Software Heritage (SWH), we build
The Stack v2 on top of the digital commons of their source code archive.
Alongside the SWH repositories spanning 619 programming languages, we carefully
select other high-quality data sources, such as GitHub pull requests, Kaggle
notebooks, and code documentation. This results in a training set that is 4x
larger than the first StarCoder dataset. We train StarCoder2 models with 3B,
7B, and 15B parameters on 3.3 to 4.3 trillion tokens and thoroughly evaluate
them on a comprehensive set of Code LLM benchmarks. We find that our small
model, StarCoder2-3B, outperforms other Code LLMs of similar size on most
benchmarks, and also outperforms StarCoderBase-15B. Our large model,
StarCoder2- 15B, significantly outperforms other models of comparable size. In
addition, it matches or outperforms CodeLlama-34B, a model more than twice its
size. Although DeepSeekCoder- 33B is the best-performing model at code
completion for high-resource languages, we find that StarCoder2-15B outperforms
it on math and code reasoning benchmarks, as well as several low-resource
languages. We make the model weights available under an OpenRAIL license and
ensure full transparency regarding the training data by releasing the SoftWare
Heritage persistent IDentifiers (SWHIDs) of the source code data.