CodeIt: Selbstverbessernde Sprachmodelle mit priorisierter Rückblick-Wiedergabe

CodeIt: Self-Improving Language Models with Prioritized Hindsight Replay

February 7, 2024

Autoren: Natasha Butt, Blazej Manczak, Auke Wiggers, Corrado Rainone, David Zhang, Michaël Defferrard, Taco Cohen

cs.AI

Zusammenfassung

Große Sprachmodelle lösen zunehmend Aufgaben, von denen allgemein angenommen wird, dass sie menschliches Denkvermögen erfordern. Dennoch schneiden diese Modelle bei Benchmarks für allgemeine Intelligenz wie dem Abstraction and Reasoning Corpus (ARC) immer noch sehr schlecht ab. In diesem Artikel behandeln wir ARC als ein Problem der Programmierung durch Beispiele und stellen eine neuartige und skalierbare Methode zur Selbstverbesserung von Sprachmodellen vor, die wir Code Iteration (CodeIt) nennen. Unsere Methode wechselt iterativ zwischen 1) Programm-Sampling und Hindsight-Relabeling sowie 2) Lernen durch priorisiertes Experience Replay. Indem wir das Ziel einer Episode (d.h. die Zielprogrammausgabe bei gegebenem Eingabewert) auf die tatsächlich erzeugte Ausgabe des gesampelten Programms umlabeln, bewältigt unsere Methode effektiv die extreme Sparsity von Belohnungen in der Programmsynthese. Durch die Anwendung von CodeIt auf den ARC-Datensatz zeigen wir, dass priorisiertes Hindsight Replay in Kombination mit Pre-Training und Datenaugmentierung zu erfolgreicher intertask-Generalisierung führt. CodeIt ist der erste neuro-symbolische Ansatz, der auf den gesamten ARC-Evaluierungsdatensatz skaliert. Unsere Methode löst 15 % der ARC-Evaluierungsaufgaben und erreicht damit state-of-the-art Leistung, wobei sie bestehende neuronale und symbolische Baselines übertrifft.

English

Large language models are increasingly solving tasks that are commonly believed to require human-level reasoning ability. However, these models still perform very poorly on benchmarks of general intelligence such as the Abstraction and Reasoning Corpus (ARC). In this paper, we approach ARC as a programming-by-examples problem, and introduce a novel and scalable method for language model self-improvement called Code Iteration (CodeIt). Our method iterates between 1) program sampling and hindsight relabeling, and 2) learning from prioritized experience replay. By relabeling the goal of an episode (i.e., the target program output given input) to the realized output produced by the sampled program, our method effectively deals with the extreme sparsity of rewards in program synthesis. Applying CodeIt to the ARC dataset, we demonstrate that prioritized hindsight replay, along with pre-training and data-augmentation, leads to successful inter-task generalization. CodeIt is the first neuro-symbolic approach that scales to the full ARC evaluation dataset. Our method solves 15% of ARC evaluation tasks, achieving state-of-the-art performance and outperforming existing neural and symbolic baselines.