CodeIt: 優先順位付き後知恵リプレイによる自己改善型言語モデル

要旨

大規模言語モデルは、人間レベルの推論能力を必要とされるタスクをますます解決できるようになっている。しかし、これらのモデルは、抽象化と推論コーパス（ARC）のような一般的な知能のベンチマークでは依然として非常に低い性能しか示していない。本論文では、ARCを例によるプログラミング問題としてアプローチし、言語モデルの自己改善を可能にする新規でスケーラブルな手法であるCode Iteration（CodeIt）を提案する。我々の手法は、1) プログラムサンプリングと後知恵的ラベリング、2) 優先順位付き経験再生からの学習、の2つを反復的に行う。エピソードの目標（すなわち、入力に対する目標プログラム出力）をサンプリングされたプログラムが生成した実際の出力に再ラベリングすることで、本手法はプログラム合成における報酬の極端な希薄性に効果的に対処する。ARCデータセットにCodeItを適用し、優先順位付き後知恵的再生と事前学習、データ拡張を組み合わせることで、タスク間の一般化に成功することを示す。CodeItは、完全なARC評価データセットにスケールする最初のニューロシンボリックアプローチである。本手法はARC評価タスクの15%を解決し、最先端の性能を達成し、既存のニューラルおよびシンボリックベースラインを上回る結果を示した。

English

Large language models are increasingly solving tasks that are commonly believed to require human-level reasoning ability. However, these models still perform very poorly on benchmarks of general intelligence such as the Abstraction and Reasoning Corpus (ARC). In this paper, we approach ARC as a programming-by-examples problem, and introduce a novel and scalable method for language model self-improvement called Code Iteration (CodeIt). Our method iterates between 1) program sampling and hindsight relabeling, and 2) learning from prioritized experience replay. By relabeling the goal of an episode (i.e., the target program output given input) to the realized output produced by the sampled program, our method effectively deals with the extreme sparsity of rewards in program synthesis. Applying CodeIt to the ARC dataset, we demonstrate that prioritized hindsight replay, along with pre-training and data-augmentation, leads to successful inter-task generalization. CodeIt is the first neuro-symbolic approach that scales to the full ARC evaluation dataset. Our method solves 15% of ARC evaluation tasks, achieving state-of-the-art performance and outperforming existing neural and symbolic baselines.

CodeIt: 優先順位付き後知恵リプレイによる自己改善型言語モデル

CodeIt: Self-Improving Language Models with Prioritized Hindsight Replay

要旨

Support