ALPINE: 언어 모델의 자기회귀 학습에서 계획 능력의 해명

ALPINE: Unveiling the Planning Capability of Autoregressive Learning in Language Models

May 15, 2024

저자: Siwei Wang, Yifei Shen, Shi Feng, Haoran Sun, Shang-Hua Teng, Wei Chen

cs.AI

초록

본 논문에서는 "네트워크 내 계획 수립을 위한 자기회귀 학습(Autoregressive Learning for Planning In NEtworks)"을 의미하는 프로젝트 ALPINE의 연구 결과를 제시한다. 프로젝트 ALPINE은 Transformer 기반 언어 모델의 자기회귀 학습 메커니즘을 통해 계획 수립 능력의 발전에 대한 이론적 탐구를 시작하며, 이들의 계획 능력에 잠재적인 한계를 식별하는 것을 목표로 한다. 우리는 계획을 네트워크 경로 탐색 작업으로 추상화하며, 여기서 목표는 지정된 출발 노드에서 목표 노드까지 유효한 경로를 생성하는 것이다. 표현력 측면에서, Transformer는 인접 행렬과 도달 가능성 행렬을 가중치 내에 임베딩함으로써 경로 탐색을 실행할 수 있음을 보인다. Transformer의 경사 기반 학습 동역학에 대한 이론적 분석을 통해, Transformer가 인접 행렬과 제한된 형태의 도달 가능성 행렬을 학습할 수 있음을 밝혔다. 이러한 이론적 통찰은 실험을 통해 검증되었으며, Transformer가 실제로 인접 행렬과 불완전한 도달 가능성 행렬을 학습한다는 것을 보여주어 우리의 이론적 분석에서 예측한 내용과 일치함을 입증했다. 또한, 실제 계획 벤치마크인 Blocksworld에 우리의 방법론을 적용했을 때도 관찰 결과는 일관되게 유지되었다. 우리의 이론적 및 실증적 분석은 더 나아가 Transformer의 경로 탐색에서 잠재적인 한계를 드러냈다: 이는 전이성을 통해 도달 가능성 관계를 식별할 수 없으며, 따라서 경로 연결이 필요한 경우 실패할 수 있다. 요약하자면, 본 연구는 네트워크 내 계획 수립을 가능하게 하는 자기회귀 학습의 내부 메커니즘에 대한 새로운 통찰을 제공한다. 이 연구는 다른 관련 분야에서의 일반적인 계획 능력에 대한 이해에 기여할 수 있을 것이다.

English

In this paper, we present the findings of our Project ALPINE which stands for ``Autoregressive Learning for Planning In NEtworks." Project ALPINE initiates a theoretical investigation into the development of planning capabilities in Transformer-based language models through their autoregressive learning mechanisms, aiming to identify any potential limitations in their planning abilities. We abstract planning as a network path-finding task where the objective is to generate a valid path from a specified source node to a designated target node. In terms of expressiveness, we show that the Transformer is capable of executing path-finding by embedding the adjacency and reachability matrices within its weights. Our theoretical analysis of the gradient-based learning dynamic of the Transformer reveals that the Transformer is capable of learning both the adjacency matrix and a limited form of the reachability matrix. These theoretical insights are then validated through experiments, which demonstrate that the Transformer indeed learns the adjacency matrix and an incomplete reachability matrix, which aligns with the predictions made in our theoretical analysis. Additionally, when applying our methodology to a real-world planning benchmark, called Blocksworld, our observations remain consistent. Our theoretical and empirical analyses further unveil a potential limitation of Transformer in path-finding: it cannot identify reachability relationships through transitivity, and thus would fail when path concatenation is needed to generate a path. In summary, our findings shed new light on how the internal mechanisms of autoregressive learning enable planning in networks. This study may contribute to our understanding of the general planning capabilities in other related domains.