PEFT-Arena : Comprendre l'ajustement fin efficace en paramètres d'une perspective stabilité-plasticité

Résumé

L’ajustement efficace en paramètres (PEFT) est devenu l’approche standard pour adapter les grands modèles de langage, mais les évaluations privilégient largement la précision en aval tout en négligeant la rétention des capacités préentraînées. Nous soutenons que le PEFT devrait être évalué à travers le dilemme stabilité-plasticité : le compromis entre l’adaptation à la tâche cible et la résistance à l’oubli. Nous introduisons PEFT-Arena, un banc d’essai qui mesure conjointement la performance en aval et la rétention des capacités générales. Selon les méthodes, on observe des profils distincts de stabilité-plasticité ; sous des budgets de paramètres comparables, l’ajustement orthogonal atteint la frontière de Pareto la plus favorable. Pour expliquer ces différences, nous analysons les mises à jour PEFT sous deux perspectives géométriques. Dans l’espace des poids, une analyse spectrale révèle comment les paramétrisations interagissent avec la structure en valeurs singulières préentraînée. Dans l’espace d’activation, les métriques de rétention indiquent si l’ajustement préserve ou déforme les représentations de capacités générales, l’oubli étant lié à une distorsion non isométrique des représentations. Enfin, une analyse montre que les points de contrôle finaux du SFT dépassent souvent un meilleur point de fonctionnement cible-rétention. Inspirés par ce constat, nous présentons des études de cas d’une amélioration post-hoc par rembobinage par chemin.

English

Parameter-efficient finetuning (PEFT) has become the standard approach for adapting large language models, yet evaluations largely emphasize downstream accuracy while overlooking the retention of pretrained capabilities. We argue that PEFT should be assessed through the stability-plasticity dilemma: the trade-off between target-task adaptation and resistance to forgetting. We introduce PEFT-Arena, a benchmark that jointly measures downstream performance and general capability retention. Across methods, we find distinct stability-plasticity profiles; under comparable parameter budgets, orthogonal finetuning achieves the most favorable Pareto frontier. To explain these differences, we analyze PEFT updates from two geometric perspectives. In weight space, spectral analysis reveals how parameterizations interact with the pretrained singular-value structure. In activation space, retention metrics show whether finetuning preserves or distorts general-capability representations, with forgetting linked to non-isometric representation distortion. Finally, an analysis shows that final SFT checkpoints often overshoot a better target-retention operating point. Inspired by this, we present case studies of a post-hoc improvement with path-wise rewinding.