TEQ: Transformación Equivalente Entrenable para la Cuantización de Modelos de Lenguaje de Gran Escala

TEQ: Trainable Equivalent Transformation for Quantization of LLMs

October 17, 2023

Autores: Wenhua Cheng, Yiyang Cai, Kaokao Lv, Haihao Shen

cs.AI

Resumen

A medida que los modelos de lenguaje de gran escala (LLMs) se vuelven más prevalentes, existe una creciente necesidad de nuevos y mejorados métodos de cuantización que puedan satisfacer las demandas computacionales de estas arquitecturas modernas mientras mantienen la precisión. En este artículo, presentamos TEQ, una transformación equivalente entrenable que preserva la precisión FP32 de la salida del modelo mientras aprovecha la cuantización de baja precisión, especialmente la cuantización de solo pesos de 3 y 4 bits. El proceso de entrenamiento es ligero, requiriendo solo 1K pasos y menos del 0.1 por ciento de los parámetros entrenables del modelo original. Además, la transformación no añade ningún sobrecosto computacional durante la inferencia. Nuestros resultados están a la par con los métodos más avanzados (SOTA) en LLMs típicos. Nuestro enfoque puede combinarse con otros métodos para lograr un rendimiento aún mejor. El código está disponible en https://github.com/intel/neural-compressor.

English

As large language models (LLMs) become more prevalent, there is a growing need for new and improved quantization methods that can meet the computationalast layer demands of these modern architectures while maintaining the accuracy. In this paper, we present TEQ, a trainable equivalent transformation that preserves the FP32 precision of the model output while taking advantage of low-precision quantization, especially 3 and 4 bits weight-only quantization. The training process is lightweight, requiring only 1K steps and fewer than 0.1 percent of the original model's trainable parameters. Furthermore, the transformation does not add any computational overhead during inference. Our results are on-par with the state-of-the-art (SOTA) methods on typical LLMs. Our approach can be combined with other methods to achieve even better performance. The code is available at https://github.com/intel/neural-compressor.