データからゲームの潜在的なルールを学習する：チェスの物語

Learning the Latent Rules of a Game from Data: A Chess Story

October 3, 2024

著者: Ben Fauber

cs.AI

要旨

我々は、数百万のパラメータを持つ小規模な事前学習済み基盤生成言語モデルが、プロセスに関連するデータからプロセスの潜在的なルールを学習することができることを示しています。シュテファン・ツヴァイクの中編小説「シャハの小説」（英語では「The Royal Game」としても知られています）に触発され、28Mおよび125Mのパラメータを持つ事前学習済み基盤小規模言語モデル（SLM）が、1,000から1,000,000の例を用いて指示fine-tuningされ、チェスのルールを学習し、合法的な手を提案し、チェスの問題を正確に解決できることを示します。また、連続した言語モデルのfine-tuningエポックが改善された結果に与える影響を探り、指示fine-tuning例の数を増やすことでモデルの幻覚を減少させることを示しています。

English

We demonstrate that small pretrained foundational generative language models with millions of parameters can learn the latent rules of a process from data associated with the process. Inspired by Stefan Zweig's novella "Schachnovelle," also known as "The Royal Game" in English, we show that 28M and 125M parameter pretrained foundational small language models (SLMs) can be instruction fine-tuned with 1,000-to-1,000,000 examples to learn the rules of chess, propose legal moves, and accurately solve chess problems. We also explore the impact of successive language model fine-tuning epochs on improved outcomes and demonstrate reductions in model hallucinations by increasing the number of instruction fine-tuning examples.