RWKV: Neuerfindung von RNNs für das Transformer-Zeitalter

RWKV: Reinventing RNNs for the Transformer Era

May 22, 2023

Autoren: Bo Peng, Eric Alcaide, Quentin Anthony, Alon Albalak, Samuel Arcadinho, Huanqi Cao, Xin Cheng, Michael Chung, Matteo Grella, Kranthi Kiran GV, Xuzheng He, Haowen Hou, Przemyslaw Kazienko, Jan Kocon, Jiaming Kong, Bartlomiej Koptyra, Hayden Lau, Krishna Sri Ipsit Mantri, Ferdinand Mom, Atsushi Saito, Xiangru Tang, Bolun Wang, Johan S. Wind, Stansilaw Wozniak, Ruichong Zhang, Zhenyuan Zhang, Qihang Zhao, Peng Zhou, Jian Zhu, Rui-Jie Zhu

cs.AI

Zusammenfassung

Transformer haben nahezu alle Aufgaben der natürlichen Sprachverarbeitung (NLP) revolutioniert, leiden jedoch unter einem Speicher- und Rechenaufwand, der quadratisch mit der Sequenzlänge skaliert. Im Gegensatz dazu zeigen rekurrente neuronale Netze (RNNs) eine lineare Skalierung in Bezug auf Speicher- und Rechenanforderungen, erreichen jedoch aufgrund von Einschränkungen in der Parallelisierung und Skalierbarkeit nicht die gleiche Leistung wie Transformer. Wir schlagen eine neuartige Modellarchitektur vor, Receptance Weighted Key Value (RWKV), die das effiziente parallelisierbare Training von Transformern mit der effizienten Inferenz von RNNs kombiniert. Unser Ansatz nutzt einen linearen Aufmerksamkeitsmechanismus und ermöglicht es uns, das Modell entweder als Transformer oder als RNN zu formulieren, wodurch Berechnungen während des Trainings parallelisiert werden und während der Inferenz ein konstanter Rechen- und Speicheraufwand erhalten bleibt. Dies führt zur ersten Nicht-Transformer-Architektur, die auf zig Milliarden Parameter skaliert wurde. Unsere Experimente zeigen, dass RWKV ähnlich gut abschneidet wie vergleichbar große Transformer, was darauf hindeutet, dass zukünftige Arbeiten diese Architektur nutzen können, um effizientere Modelle zu entwickeln. Diese Arbeit stellt einen bedeutenden Schritt dar, um die Kompromisse zwischen Recheneffizienz und Modellleistung bei Sequenzverarbeitungsaufgaben zu überbrücken.

English

Transformers have revolutionized almost all natural language processing (NLP) tasks but suffer from memory and computational complexity that scales quadratically with sequence length. In contrast, recurrent neural networks (RNNs) exhibit linear scaling in memory and computational requirements but struggle to match the same performance as Transformers due to limitations in parallelization and scalability. We propose a novel model architecture, Receptance Weighted Key Value (RWKV), that combines the efficient parallelizable training of Transformers with the efficient inference of RNNs. Our approach leverages a linear attention mechanism and allows us to formulate the model as either a Transformer or an RNN, which parallelizes computations during training and maintains constant computational and memory complexity during inference, leading to the first non-transformer architecture to be scaled to tens of billions of parameters. Our experiments reveal that RWKV performs on par with similarly sized Transformers, suggesting that future work can leverage this architecture to create more efficient models. This work presents a significant step towards reconciling the trade-offs between computational efficiency and model performance in sequence processing tasks.