SlimMoE: Compressão Estruturada de Grandes Modelos MoE por meio de Afinamento e Destilação de Especialistas

SlimMoE: Structured Compression of Large MoE Models via Expert Slimming and Distillation

June 23, 2025

Autores: Zichong Li, Chen Liang, Zixuan Zhang, Ilgee Hong, Young Jin Kim, Weizhu Chen, Tuo Zhao

cs.AI

Resumo

A arquitetura Mixture of Experts (MoE) emergiu como um paradigma poderoso para escalar grandes modelos de linguagem (LLMs) enquanto mantém a eficiência de inferência. No entanto, seus enormes requisitos de memória os tornam proibitivamente caros para ajustar ou implantar em ambientes com recursos limitados. Para enfrentar esse desafio, introduzimos o SlimMoE, uma estrutura de compressão em múltiplos estágios para transformar grandes modelos MoE em variantes muito menores e eficientes, sem incorrer nos custos proibitivos de treinamento do zero. Nosso método reduz sistematicamente a contagem de parâmetros ao simplificar os especialistas e transferir conhecimento por meio de estágios intermediários, mitigando efetivamente a degradação de desempenho comum em abordagens de poda única. Usando essa estrutura, comprimimos o Phi 3.5-MoE (41,9B parâmetros totais/6,6B parâmetros ativados) para criar o Phi-mini-MoE (7,6B parâmetros totais/2,4B parâmetros ativados) e o Phi-tiny-MoE (3,8B parâmetros totais/1,1B parâmetros ativados) usando apenas 400B tokens—menos de 10% dos dados de treinamento do modelo original. Esses modelos comprimidos podem ser ajustados em uma única GPU (A100 para o Phi-mini-MoE, A6000 para o Phi-tiny-MoE), tornando-os altamente adequados para ambientes acadêmicos e com recursos limitados. Nossos experimentos demonstram que esses modelos comprimidos superam outros de tamanho similar e permanecem competitivos com modelos maiores. Por exemplo, o Phi-mini-MoE alcança desempenho similar ou melhor ao Phi-3-mini usando apenas 2/3 dos parâmetros ativados e produz pontuações MMLU comparáveis ao Llama 3.1 8B, apesar de ter uma latência significativamente menor. Nossas descobertas demonstram que a poda estruturada combinada com a destilação em estágios oferece um caminho eficaz para criar modelos MoE compactos e de alta qualidade, abrindo caminho para uma adoção mais ampla das arquiteturas MoE. Disponibilizamos nossos modelos publicamente em https://huggingface.co/microsoft/Phi-mini-MoE-instruct e https://huggingface.co/microsoft/Phi-tiny-MoE-instruct.

English

The Mixture of Experts (MoE) architecture has emerged as a powerful paradigm for scaling large language models (LLMs) while maintaining inference efficiency. However, their enormous memory requirements make them prohibitively expensive to fine-tune or deploy in resource-constrained environments. To address this challenge, we introduce SlimMoE, a multi-stage compression framework for transforming large MoE models into much smaller, efficient variants without incurring the prohibitive costs of training from scratch. Our method systematically reduces parameter counts by slimming experts and transferring knowledge through intermediate stages, effectively mitigating the performance degradation common in one-shot pruning approaches. Using this framework, we compress Phi 3.5-MoE (41.9B total/6.6B activated parameters) to create Phi-mini-MoE (7.6B total/2.4B activated parameters) and Phi-tiny-MoE (3.8B total/1.1B activated parameters) using only 400B tokens--less than 10% of the original model's training data. These compressed models can be fine-tuned on a single GPU (A100 for Phi-mini-MoE, A6000 for Phi-tiny-MoE), making them highly suitable for academic and resource-limited settings. Our experiments demonstrate that these compressed models outperform others of similar size and remain competitive with larger models. For instance, Phi-mini-MoE achieves similar or better performance to Phi-3-mini using only 2/3 of the activated parameters and yields comparable MMLU scores to Llama 3.1 8B despite having significantly lower latency. Our findings demonstrate that structured pruning combined with staged distillation offers an effective path to creating high-quality, compact MoE models, paving the way for broader adoption of MoE architectures. We make our models publicly available at https://huggingface.co/microsoft/Phi-mini-MoE-instruct and https://huggingface.co/microsoft/Phi-tiny-MoE-instruct .