CodeIt: Самообучающиеся языковые модели с приоритетным воспроизведением на основе ретроспективного анализа
CodeIt: Self-Improving Language Models with Prioritized Hindsight Replay
February 7, 2024
Авторы: Natasha Butt, Blazej Manczak, Auke Wiggers, Corrado Rainone, David Zhang, Michaël Defferrard, Taco Cohen
cs.AI
Аннотация
Крупные языковые модели всё чаще справляются с задачами, которые традиционно считались требующими человеческого уровня способности к рассуждению. Однако эти модели по-прежнему демонстрируют крайне низкие результаты на тестах общего интеллекта, таких как Корпус абстракции и рассуждений (ARC). В данной работе мы рассматриваем ARC как задачу программирования по примерам и представляем новый масштабируемый метод самообучения языковых моделей под названием Code Iteration (CodeIt). Наш метод чередует два этапа: 1) выборку программ и ретроспективное перемаркирование и 2) обучение на основе приоритизированного воспроизведения опыта. Перемаркируя цель эпизода (т.е. ожидаемый выход программы при заданном входе) на фактический выход, сгенерированный выбранной программой, наш метод эффективно справляется с крайней разреженностью вознаграждений в синтезе программ. Применяя CodeIt к набору данных ARC, мы показываем, что приоритизированное ретроспективное воспроизведение в сочетании с предварительным обучением и аугментацией данных приводит к успешной межзадачной генерализации. CodeIt является первым нейро-символическим подходом, который масштабируется на весь оценочный набор данных ARC. Наш метод решает 15% задач из оценочного набора ARC, достигая наилучших на сегодняшний день результатов и превосходя существующие нейронные и символические базовые подходы.
English
Large language models are increasingly solving tasks that are commonly
believed to require human-level reasoning ability. However, these models still
perform very poorly on benchmarks of general intelligence such as the
Abstraction and Reasoning Corpus (ARC). In this paper, we approach ARC as a
programming-by-examples problem, and introduce a novel and scalable method for
language model self-improvement called Code Iteration (CodeIt). Our method
iterates between 1) program sampling and hindsight relabeling, and 2) learning
from prioritized experience replay. By relabeling the goal of an episode (i.e.,
the target program output given input) to the realized output produced by the
sampled program, our method effectively deals with the extreme sparsity of
rewards in program synthesis. Applying CodeIt to the ARC dataset, we
demonstrate that prioritized hindsight replay, along with pre-training and
data-augmentation, leads to successful inter-task generalization. CodeIt is the
first neuro-symbolic approach that scales to the full ARC evaluation dataset.
Our method solves 15% of ARC evaluation tasks, achieving state-of-the-art
performance and outperforming existing neural and symbolic baselines.