TEQ : Transformation Équivalente Entraînable pour la Quantisation des LLMs

TEQ: Trainable Equivalent Transformation for Quantization of LLMs

October 17, 2023

Auteurs: Wenhua Cheng, Yiyang Cai, Kaokao Lv, Haihao Shen

cs.AI

Résumé

Alors que les grands modèles de langage (LLMs) deviennent de plus en plus répandus, il existe un besoin croissant de nouvelles méthodes de quantification améliorées capables de répondre aux exigences computationnelles de ces architectures modernes tout en maintenant leur précision. Dans cet article, nous présentons TEQ, une transformation équivalente entraînable qui préserve la précision FP32 des sorties du modèle tout en tirant parti de la quantification en basse précision, notamment la quantification des poids sur 3 et 4 bits. Le processus d'entraînement est léger, nécessitant seulement 1 000 étapes et moins de 0,1 % des paramètres entraînables du modèle d'origine. De plus, la transformation n'ajoute aucune surcharge computationnelle lors de l'inférence. Nos résultats sont comparables aux méthodes de pointe (SOTA) sur les LLMs typiques. Notre approche peut être combinée avec d'autres méthodes pour obtenir des performances encore meilleures. Le code est disponible à l'adresse suivante : https://github.com/intel/neural-compressor.

English

As large language models (LLMs) become more prevalent, there is a growing need for new and improved quantization methods that can meet the computationalast layer demands of these modern architectures while maintaining the accuracy. In this paper, we present TEQ, a trainable equivalent transformation that preserves the FP32 precision of the model output while taking advantage of low-precision quantization, especially 3 and 4 bits weight-only quantization. The training process is lightweight, requiring only 1K steps and fewer than 0.1 percent of the original model's trainable parameters. Furthermore, the transformation does not add any computational overhead during inference. Our results are on-par with the state-of-the-art (SOTA) methods on typical LLMs. Our approach can be combined with other methods to achieve even better performance. The code is available at https://github.com/intel/neural-compressor.