DynMuon: динамический взгляд на спектральное формирование мюона

Аннотация

В последние годы метод Muon стал доминирующим подходом для обучения больших языковых моделей и, в более широком смысле, трансформеров. Принципиальное отличие от стандартных методов градиентного спуска заключается в замене обычной матрицы обновления \(M = U\Sigma V^\top\) на её полярный множитель \(UV^\top\). В данной работе мы рассматриваем класс обновлений, подобных Muon, где матрица \(M\) заменяется на \(U\Sigma^p V^\top\) с некоторым параметром \(p\). Мы называем эту операцию «спектральным формированием» и разрабатываем теорию выбора \(p\), зависящего от: (a) локальной кривизны функции потерь, (b) шума, обусловленного стохастическими градиентами и шумом меток, и (c) этапа обучения. Наши теоретические и экспериментальные результаты выявляют ранее упущенное из виду поведение: положительные значения \(p\) полезны на ранних этапах, поскольку усиливают направления с высокой кривизной и ускоряют сжатие сигнала, тогда как слабо отрицательные \(p\) помогают на более поздних этапах, перераспределяя силу обновления в сторону направлений с низкой кривизной, которые всё ещё содержат полезные обучающие сигналы. Основываясь на этом выводе, мы предлагаем DynMuon — эффективный метод динамического спектрального формирования, который изменяет \(p\) от положительных до слабо отрицательных значений в процессе обучения. Обширные эксперименты на моделях различных размеров, архитектур и условий обучения показывают, что DynMuon стабильно достигает более низких потерь на валидации по сравнению с Muon, сокращая количество шагов, необходимых для достижения той же целевой потери, на 10,6–26,5%.

English

In recent years, Muon has emerged as the dominant method for training large language models, and transformers more broadly. The essential difference, when compared to standard gradient descent methods, is to replace the usual update matrix M=UΣV^top with its polar factor UV^top. In this work, we consider a class of Muon-like updates, where we replace the update M with UΣ^p V^top for some parameter p. We call this a "spectral-shaping" operation, and develop a theory of how to pick p which depends on (a) local curvature of the loss function, (b) noise stemming from stochastic gradients and label noise, and (c) training stage. Our theory and experimentation reveal a previously overlooked behavior: positive p helps early by emphasizing high-curvature directions and accelerating signal contraction, while mildly negative p helps later by reallocating update strength toward low-curvature directions that still contain useful training signals. Building on the insight, we propose DynMuon, an efficient dynamic spectral shaping method that schedules p from positive to mildly negative over training. Extensive experiments across model sizes, architectures, and training settings show that DynMuon consistently achieves lower validation loss than Muon, while requiring 10.6-26.5% fewer steps to reach the same target loss.