RWKV: Reinventando RNNs para a Era dos Transformers

RWKV: Reinventing RNNs for the Transformer Era

May 22, 2023

Autores: Bo Peng, Eric Alcaide, Quentin Anthony, Alon Albalak, Samuel Arcadinho, Huanqi Cao, Xin Cheng, Michael Chung, Matteo Grella, Kranthi Kiran GV, Xuzheng He, Haowen Hou, Przemyslaw Kazienko, Jan Kocon, Jiaming Kong, Bartlomiej Koptyra, Hayden Lau, Krishna Sri Ipsit Mantri, Ferdinand Mom, Atsushi Saito, Xiangru Tang, Bolun Wang, Johan S. Wind, Stansilaw Wozniak, Ruichong Zhang, Zhenyuan Zhang, Qihang Zhao, Peng Zhou, Jian Zhu, Rui-Jie Zhu

cs.AI

Resumo

Os Transformers revolucionaram quase todas as tarefas de processamento de linguagem natural (NLP), mas sofrem com complexidade de memória e computação que escala quadraticamente com o comprimento da sequência. Em contraste, as redes neurais recorrentes (RNNs) exibem escalonamento linear em requisitos de memória e computação, mas lutam para igualar o mesmo desempenho dos Transformers devido a limitações em paralelização e escalabilidade. Propomos uma nova arquitetura de modelo, Receptance Weighted Key Value (RWKV), que combina o treinamento paralelizável eficiente dos Transformers com a inferência eficiente das RNNs. Nossa abordagem aproveita um mecanismo de atenção linear e nos permite formular o modelo tanto como um Transformer quanto como uma RNN, o que paraleliza os cálculos durante o treinamento e mantém complexidade computacional e de memória constante durante a inferência, levando à primeira arquitetura não-Transformer a ser escalada para dezenas de bilhões de parâmetros. Nossos experimentos revelam que o RWKV tem desempenho equivalente a Transformers de tamanho similar, sugerindo que trabalhos futuros podem aproveitar essa arquitetura para criar modelos mais eficientes. Este trabalho representa um passo significativo para conciliar as compensações entre eficiência computacional e desempenho do modelo em tarefas de processamento de sequências.

English

Transformers have revolutionized almost all natural language processing (NLP) tasks but suffer from memory and computational complexity that scales quadratically with sequence length. In contrast, recurrent neural networks (RNNs) exhibit linear scaling in memory and computational requirements but struggle to match the same performance as Transformers due to limitations in parallelization and scalability. We propose a novel model architecture, Receptance Weighted Key Value (RWKV), that combines the efficient parallelizable training of Transformers with the efficient inference of RNNs. Our approach leverages a linear attention mechanism and allows us to formulate the model as either a Transformer or an RNN, which parallelizes computations during training and maintains constant computational and memory complexity during inference, leading to the first non-transformer architecture to be scaled to tens of billions of parameters. Our experiments reveal that RWKV performs on par with similarly sized Transformers, suggesting that future work can leverage this architecture to create more efficient models. This work presents a significant step towards reconciling the trade-offs between computational efficiency and model performance in sequence processing tasks.