TEQ: Trasformazione Equivalente Addestrabile per la Quantizzazione di LLM

TEQ: Trainable Equivalent Transformation for Quantization of LLMs

October 17, 2023

Autori: Wenhua Cheng, Yiyang Cai, Kaokao Lv, Haihao Shen

cs.AI

Abstract

Man mano che i modelli linguistici di grandi dimensioni (LLM) diventano più diffusi, cresce la necessità di nuovi e migliorati metodi di quantizzazione in grado di soddisfare le esigenze computazionali di queste moderne architetture, mantenendo al contempo l'accuratezza. In questo articolo, presentiamo TEQ, una trasformazione equivalente addestrabile che preserva la precisione FP32 dell'output del modello sfruttando al contempo la quantizzazione a bassa precisione, in particolare la quantizzazione solo dei pesi a 3 e 4 bit. Il processo di addestramento è leggero, richiedendo solo 1K passaggi e meno dello 0,1 percento dei parametri addestrabili del modello originale. Inoltre, la trasformazione non aggiunge alcun sovraccarico computazionale durante l'inferenza. I nostri risultati sono in linea con i metodi all'avanguardia (SOTA) sui tipici LLM. Il nostro approccio può essere combinato con altri metodi per ottenere prestazioni ancora migliori. Il codice è disponibile all'indirizzo https://github.com/intel/neural-compressor.

English

As large language models (LLMs) become more prevalent, there is a growing need for new and improved quantization methods that can meet the computationalast layer demands of these modern architectures while maintaining the accuracy. In this paper, we present TEQ, a trainable equivalent transformation that preserves the FP32 precision of the model output while taking advantage of low-precision quantization, especially 3 and 4 bits weight-only quantization. The training process is lightweight, requiring only 1K steps and fewer than 0.1 percent of the original model's trainable parameters. Furthermore, the transformation does not add any computational overhead during inference. Our results are on-par with the state-of-the-art (SOTA) methods on typical LLMs. Our approach can be combined with other methods to achieve even better performance. The code is available at https://github.com/intel/neural-compressor.