CodeIt: Modelos de Linguagem com Autoaperfeiçoamento por meio de Replay Prioritizado com Retrospectiva

CodeIt: Self-Improving Language Models with Prioritized Hindsight Replay

February 7, 2024

Autores: Natasha Butt, Blazej Manczak, Auke Wiggers, Corrado Rainone, David Zhang, Michaël Defferrard, Taco Cohen

cs.AI

Resumo

Modelos de linguagem de grande escala estão cada vez mais resolvendo tarefas que são comumente consideradas como exigindo habilidades de raciocínio em nível humano. No entanto, esses modelos ainda têm desempenho muito fraco em benchmarks de inteligência geral, como o Corpus de Abstração e Raciocínio (ARC). Neste artigo, abordamos o ARC como um problema de programação por exemplos e introduzimos um método novo e escalável para autodesenvolvimento de modelos de linguagem chamado Iteração de Código (CodeIt). Nosso método itera entre 1) amostragem de programas e reetiquetagem retrospectiva, e 2) aprendizado com replay de experiência priorizada. Ao reetiquetar o objetivo de um episódio (ou seja, a saída do programa alvo dada a entrada) para a saída realizada produzida pelo programa amostrado, nosso método lida efetivamente com a extrema esparsidade de recompensas na síntese de programas. Aplicando o CodeIt ao conjunto de dados ARC, demonstramos que o replay retrospectivo priorizado, juntamente com pré-treinamento e aumento de dados, leva a uma generalização intertarefa bem-sucedida. O CodeIt é a primeira abordagem neuro-simbólica que escala para o conjunto completo de dados de avaliação do ARC. Nosso método resolve 15% das tarefas de avaliação do ARC, alcançando desempenho de ponta e superando as linhas de base neurais e simbólicas existentes.

English

Large language models are increasingly solving tasks that are commonly believed to require human-level reasoning ability. However, these models still perform very poorly on benchmarks of general intelligence such as the Abstraction and Reasoning Corpus (ARC). In this paper, we approach ARC as a programming-by-examples problem, and introduce a novel and scalable method for language model self-improvement called Code Iteration (CodeIt). Our method iterates between 1) program sampling and hindsight relabeling, and 2) learning from prioritized experience replay. By relabeling the goal of an episode (i.e., the target program output given input) to the realized output produced by the sampled program, our method effectively deals with the extreme sparsity of rewards in program synthesis. Applying CodeIt to the ARC dataset, we demonstrate that prioritized hindsight replay, along with pre-training and data-augmentation, leads to successful inter-task generalization. CodeIt is the first neuro-symbolic approach that scales to the full ARC evaluation dataset. Our method solves 15% of ARC evaluation tasks, achieving state-of-the-art performance and outperforming existing neural and symbolic baselines.