TEQ: Обучаемое эквивалентное преобразование для квантования больших языковых моделей

TEQ: Trainable Equivalent Transformation for Quantization of LLMs

October 17, 2023

Авторы: Wenhua Cheng, Yiyang Cai, Kaokao Lv, Haihao Shen

cs.AI

Аннотация

По мере того как крупные языковые модели (LLMs) становятся все более распространенными, возникает растущая потребность в новых и улучшенных методах квантования, которые могут удовлетворить вычислительные требования современных архитектур, сохраняя при этом точность. В данной статье мы представляем TEQ — обучаемое эквивалентное преобразование, которое сохраняет точность FP32 на выходе модели, одновременно используя преимущества низкоточного квантования, особенно квантования весов только с 3 и 4 битами. Процесс обучения является легковесным, требуя всего 1K шагов и менее 0,1% обучаемых параметров исходной модели. Кроме того, преобразование не добавляет вычислительных накладных расходов во время вывода. Наши результаты соответствуют современным (SOTA) методам для типичных LLMs. Наш подход может быть объединен с другими методами для достижения еще более высокой производительности. Код доступен по адресу https://github.com/intel/neural-compressor.

English

As large language models (LLMs) become more prevalent, there is a growing need for new and improved quantization methods that can meet the computationalast layer demands of these modern architectures while maintaining the accuracy. In this paper, we present TEQ, a trainable equivalent transformation that preserves the FP32 precision of the model output while taking advantage of low-precision quantization, especially 3 and 4 bits weight-only quantization. The training process is lightweight, requiring only 1K steps and fewer than 0.1 percent of the original model's trainable parameters. Furthermore, the transformation does not add any computational overhead during inference. Our results are on-par with the state-of-the-art (SOTA) methods on typical LLMs. Our approach can be combined with other methods to achieve even better performance. The code is available at https://github.com/intel/neural-compressor.