RWKV: Het heruitvinden van RNN's voor het Transformer-tijdperk

RWKV: Reinventing RNNs for the Transformer Era

May 22, 2023

Auteurs: Bo Peng, Eric Alcaide, Quentin Anthony, Alon Albalak, Samuel Arcadinho, Huanqi Cao, Xin Cheng, Michael Chung, Matteo Grella, Kranthi Kiran GV, Xuzheng He, Haowen Hou, Przemyslaw Kazienko, Jan Kocon, Jiaming Kong, Bartlomiej Koptyra, Hayden Lau, Krishna Sri Ipsit Mantri, Ferdinand Mom, Atsushi Saito, Xiangru Tang, Bolun Wang, Johan S. Wind, Stansilaw Wozniak, Ruichong Zhang, Zhenyuan Zhang, Qihang Zhao, Peng Zhou, Jian Zhu, Rui-Jie Zhu

cs.AI

Samenvatting

Transformers hebben vrijwel alle taken in natuurlijke taalverwerking (NLP) gerevolutioneerd, maar kampen met een geheugen- en rekencomplexiteit die kwadratisch schaalt met de sequentielengte. Daarentegen vertonen recurrent neural networks (RNN's) een lineaire schaling in geheugen- en rekenvereisten, maar hebben ze moeite om dezelfde prestaties te behalen als Transformers vanwege beperkingen in parallelisatie en schaalbaarheid. Wij stellen een nieuwe modelarchitectuur voor, Receptance Weighted Key Value (RWKV), die de efficiënte paralleliseerbare training van Transformers combineert met de efficiënte inferentie van RNN's. Onze aanpak maakt gebruik van een lineair aandachtmechanisme en stelt ons in staat het model te formuleren als een Transformer of een RNN, wat berekeningen paralleliseert tijdens de training en een constante reken- en geheugencomplexiteit behoudt tijdens de inferentie, wat resulteert in de eerste niet-Transformer-architectuur die is geschaald naar tientallen miljarden parameters. Onze experimenten tonen aan dat RWKV presteert op hetzelfde niveau als vergelijkbaar grote Transformers, wat suggereert dat toekomstig werk deze architectuur kan benutten om efficiëntere modellen te creëren. Dit werk vormt een belangrijke stap in het verzoenen van de afwegingen tussen rekenkundige efficiëntie en modelprestaties bij sequentieverwerkingstaken.

English

Transformers have revolutionized almost all natural language processing (NLP) tasks but suffer from memory and computational complexity that scales quadratically with sequence length. In contrast, recurrent neural networks (RNNs) exhibit linear scaling in memory and computational requirements but struggle to match the same performance as Transformers due to limitations in parallelization and scalability. We propose a novel model architecture, Receptance Weighted Key Value (RWKV), that combines the efficient parallelizable training of Transformers with the efficient inference of RNNs. Our approach leverages a linear attention mechanism and allows us to formulate the model as either a Transformer or an RNN, which parallelizes computations during training and maintains constant computational and memory complexity during inference, leading to the first non-transformer architecture to be scaled to tens of billions of parameters. Our experiments reveal that RWKV performs on par with similarly sized Transformers, suggesting that future work can leverage this architecture to create more efficient models. This work presents a significant step towards reconciling the trade-offs between computational efficiency and model performance in sequence processing tasks.