CodeIt: Zelfverbeterende Taalmodellen met Geprioriteerde Hindsight Replay

CodeIt: Self-Improving Language Models with Prioritized Hindsight Replay

February 7, 2024

Auteurs: Natasha Butt, Blazej Manczak, Auke Wiggers, Corrado Rainone, David Zhang, Michaël Defferrard, Taco Cohen

cs.AI

Samenvatting

Grote taalmodellen lossen steeds vaker taken op waarvan algemeen wordt aangenomen dat ze menselijk redeneervermogen vereisen. Deze modellen presteren echter nog steeds zeer slecht op benchmarks voor algemene intelligentie, zoals het Abstraction and Reasoning Corpus (ARC). In dit artikel benaderen we ARC als een programmeer-voorbeelden-probleem en introduceren we een nieuwe en schaalbare methode voor zelfverbetering van taalmodellen, genaamd Code Iteration (CodeIt). Onze methode wisselt af tussen 1) programma-bemonstering en hindsight-relabeling, en 2) leren van geprioriteerde ervaringsherhaling. Door het doel van een episode (d.w.z. de doelprogramma-uitvoer gegeven invoer) te relabelen naar de gerealiseerde uitvoer die door het bemonsterde programma wordt geproduceerd, gaat onze methode effectief om met de extreme schaarste van beloningen in programma-synthese. Door CodeIt toe te passen op de ARC-dataset, tonen we aan dat geprioriteerde hindsight-herhaling, samen met pre-training en data-augmentatie, leidt tot succesvolle inter-task-generalizatie. CodeIt is de eerste neuro-symbolische benadering die schaalbaar is naar de volledige ARC-evaluatiedataset. Onze methode lost 15% van de ARC-evaluatietaken op, wat staat-of-the-art prestaties oplevert en bestaande neurale en symbolische baselines overtreft.

English

Large language models are increasingly solving tasks that are commonly believed to require human-level reasoning ability. However, these models still perform very poorly on benchmarks of general intelligence such as the Abstraction and Reasoning Corpus (ARC). In this paper, we approach ARC as a programming-by-examples problem, and introduce a novel and scalable method for language model self-improvement called Code Iteration (CodeIt). Our method iterates between 1) program sampling and hindsight relabeling, and 2) learning from prioritized experience replay. By relabeling the goal of an episode (i.e., the target program output given input) to the realized output produced by the sampled program, our method effectively deals with the extreme sparsity of rewards in program synthesis. Applying CodeIt to the ARC dataset, we demonstrate that prioritized hindsight replay, along with pre-training and data-augmentation, leads to successful inter-task generalization. CodeIt is the first neuro-symbolic approach that scales to the full ARC evaluation dataset. Our method solves 15% of ARC evaluation tasks, achieving state-of-the-art performance and outperforming existing neural and symbolic baselines.