DynMuon : Une perspective dynamique de mise en forme spectrale du muon

Résumé

Ces dernières années, Muon est devenu la méthode dominante pour l'entraînement des grands modèles de langage, et plus largement des transformeurs. La différence essentielle, par rapport aux méthodes de descente de gradient standard, consiste à remplacer la matrice de mise à jour usuelle \( M = U\Sigma V^\top \) par son facteur polaire \( UV^\top \). Dans ce travail, nous considérons une classe de mises à jour de type Muon, où nous remplaçons \( M \) par \( U\Sigma^p V^\top \) pour un certain paramètre \( p \). Nous appelons cette opération une "mise en forme spectrale" et développons une théorie permettant de choisir \( p \) en fonction (a) de la courbure locale de la fonction de perte, (b) du bruit provenant des gradients stochastiques et du bruit d'étiquetage, et (c) de l'étape d'entraînement. Notre théorie et nos expérimentations révèlent un comportement jusqu'alors négligé : un \( p \) positif aide en début d'entraînement en accentuant les directions à forte courbure et en accélérant la contraction du signal, tandis qu'un \( p \) légèrement négatif aide en fin d'entraînement en réallouant la force de mise à jour vers les directions à faible courbure qui contiennent encore des signaux d'entraînement utiles. Forts de cette observation, nous proposons DynMuon, une méthode efficace de mise en forme spectrale dynamique qui fait évoluer \( p \) de valeurs positives à légèrement négatives au cours de l'entraînement. Des expériences approfondies sur différentes tailles de modèles, architectures et configurations d'entraînement montrent que DynMuon atteint systématiquement une perte de validation plus faible que Muon, tout en nécessitant 10,6 à 26,5 % d'étapes en moins pour atteindre la même perte cible.

English

In recent years, Muon has emerged as the dominant method for training large language models, and transformers more broadly. The essential difference, when compared to standard gradient descent methods, is to replace the usual update matrix M=UΣV^top with its polar factor UV^top. In this work, we consider a class of Muon-like updates, where we replace the update M with UΣ^p V^top for some parameter p. We call this a "spectral-shaping" operation, and develop a theory of how to pick p which depends on (a) local curvature of the loss function, (b) noise stemming from stochastic gradients and label noise, and (c) training stage. Our theory and experimentation reveal a previously overlooked behavior: positive p helps early by emphasizing high-curvature directions and accelerating signal contraction, while mildly negative p helps later by reallocating update strength toward low-curvature directions that still contain useful training signals. Building on the insight, we propose DynMuon, an efficient dynamic spectral shaping method that schedules p from positive to mildly negative over training. Extensive experiments across model sizes, architectures, and training settings show that DynMuon consistently achieves lower validation loss than Muon, while requiring 10.6-26.5% fewer steps to reach the same target loss.