TEQ: 大規模言語モデルの量子化のための学習可能な等価変換

要旨

大規模言語モデル（LLM）が普及するにつれ、これらの現代的なアーキテクチャの計算要求を満たしつつ精度を維持するための新たで改良された量子化手法の必要性が高まっています。本論文では、TEQ（Trainable Equivalent Transformation）を提案します。これは、モデル出力のFP32精度を維持しながら、特に3ビットおよび4ビットの重みのみの量子化といった低精度量子化の利点を活かすことができる訓練可能な等価変換です。訓練プロセスは軽量で、わずか1,000ステップと元のモデルの訓練可能パラメータの0.1%未満しか必要としません。さらに、この変換は推論時に計算オーバーヘッドを一切追加しません。我々の結果は、典型的なLLMにおいて最先端（SOTA）の手法と同等です。我々のアプローチは他の手法と組み合わせることで、さらなる性能向上を実現することができます。コードはhttps://github.com/intel/neural-compressorで公開されています。

English

As large language models (LLMs) become more prevalent, there is a growing need for new and improved quantization methods that can meet the computationalast layer demands of these modern architectures while maintaining the accuracy. In this paper, we present TEQ, a trainable equivalent transformation that preserves the FP32 precision of the model output while taking advantage of low-precision quantization, especially 3 and 4 bits weight-only quantization. The training process is lightweight, requiring only 1K steps and fewer than 0.1 percent of the original model's trainable parameters. Furthermore, the transformation does not add any computational overhead during inference. Our results are on-par with the state-of-the-art (SOTA) methods on typical LLMs. Our approach can be combined with other methods to achieve even better performance. The code is available at https://github.com/intel/neural-compressor.

TEQ: 大規模言語モデルの量子化のための学習可能な等価変換

TEQ: Trainable Equivalent Transformation for Quantization of LLMs

要旨

Support