Aprendendo as Regras Latentes de um Jogo a partir de Dados: Uma História de Xadrez

Learning the Latent Rules of a Game from Data: A Chess Story

October 3, 2024

Autores: Ben Fauber

cs.AI

Resumo

Demonstramos que pequenos modelos de linguagem generativos pré-treinados, com milhões de parâmetros, podem aprender as regras latentes de um processo a partir de dados associados a esse processo. Inspirados na novela de Stefan Zweig "Schachnovelle," também conhecida como "O Jogo Real" em inglês, mostramos que modelos de linguagem pequenos pré-treinados com 28M e 125M de parâmetros podem ser refinados por instrução com 1.000 a 1.000.000 exemplos para aprender as regras do xadrez, propor movimentos legais e resolver com precisão problemas de xadrez. Também exploramos o impacto de épocas sucessivas de refinamento do modelo de linguagem em resultados aprimorados e demonstramos reduções em alucinações do modelo ao aumentar o número de exemplos de refinamento por instrução.

English

We demonstrate that small pretrained foundational generative language models with millions of parameters can learn the latent rules of a process from data associated with the process. Inspired by Stefan Zweig's novella "Schachnovelle," also known as "The Royal Game" in English, we show that 28M and 125M parameter pretrained foundational small language models (SLMs) can be instruction fine-tuned with 1,000-to-1,000,000 examples to learn the rules of chess, propose legal moves, and accurately solve chess problems. We also explore the impact of successive language model fine-tuning epochs on improved outcomes and demonstrate reductions in model hallucinations by increasing the number of instruction fine-tuning examples.