CodeIt: Modelos de Lenguaje de Auto-mejora con Reproducción de Experiencias Prioritarias

CodeIt: Self-Improving Language Models with Prioritized Hindsight Replay

February 7, 2024

Autores: Natasha Butt, Blazej Manczak, Auke Wiggers, Corrado Rainone, David Zhang, Michaël Defferrard, Taco Cohen

cs.AI

Resumen

Los modelos de lenguaje de gran escala están resolviendo cada vez más tareas que comúnmente se cree que requieren una capacidad de razonamiento a nivel humano. Sin embargo, estos modelos aún tienen un rendimiento muy pobre en puntos de referencia de inteligencia general, como el Corpus de Abstracción y Razonamiento (ARC, por sus siglas en inglés). En este artículo, abordamos ARC como un problema de programación por ejemplos e introducimos un método novedoso y escalable para la automejora de modelos de lenguaje llamado Iteración de Código (CodeIt). Nuestro método itera entre 1) muestreo de programas y reetiquetado retrospectivo, y 2) aprendizaje a partir de la reproducción priorizada de experiencias. Al reetiquetar el objetivo de un episodio (es decir, la salida del programa objetivo dada una entrada) con la salida real producida por el programa muestreado, nuestro método aborda eficazmente la extrema escasez de recompensas en la síntesis de programas. Al aplicar CodeIt al conjunto de datos ARC, demostramos que la reproducción retrospectiva priorizada, junto con el preentrenamiento y la aumentación de datos, conduce a una generalización exitosa entre tareas. CodeIt es el primer enfoque neuro-simbólico que escala al conjunto completo de datos de evaluación ARC. Nuestro método resuelve el 15% de las tareas de evaluación de ARC, logrando un rendimiento de vanguardia y superando a los enfoques neuronales y simbólicos existentes.

English

Large language models are increasingly solving tasks that are commonly believed to require human-level reasoning ability. However, these models still perform very poorly on benchmarks of general intelligence such as the Abstraction and Reasoning Corpus (ARC). In this paper, we approach ARC as a programming-by-examples problem, and introduce a novel and scalable method for language model self-improvement called Code Iteration (CodeIt). Our method iterates between 1) program sampling and hindsight relabeling, and 2) learning from prioritized experience replay. By relabeling the goal of an episode (i.e., the target program output given input) to the realized output produced by the sampled program, our method effectively deals with the extreme sparsity of rewards in program synthesis. Applying CodeIt to the ARC dataset, we demonstrate that prioritized hindsight replay, along with pre-training and data-augmentation, leads to successful inter-task generalization. CodeIt is the first neuro-symbolic approach that scales to the full ARC evaluation dataset. Our method solves 15% of ARC evaluation tasks, achieving state-of-the-art performance and outperforming existing neural and symbolic baselines.