PEFT-Arena: Verständnis von parameter-effizientem Fine-Tuning aus einer Stabilitäts-Plastizitäts-Perspektive

Zusammenfassung

Parametereffizientes Feintuning (PEFT) hat sich zum Standardansatz für die Anpassung großer Sprachmodelle entwickelt, wobei Evaluierungen jedoch überwiegend die Genauigkeit bei nachgelagerten Aufgaben betonen und den Erhalt vortrainierter Fähigkeiten vernachlässigen. Wir vertreten die Auffassung, dass PEFT durch das Stabilitäts-Plastizitäts-Dilemma bewertet werden sollte: den Zielkonflikt zwischen Anpassung an die Zielaufgabe und Resistenz gegen Vergessen. Wir stellen PEFT-Arena vor, einen Benchmark, der sowohl die Downstream-Leistung als auch den Erhalt allgemeiner Fähigkeiten gemeinsam misst. Über verschiedene Methoden hinweg finden wir unterschiedliche Stabilitäts-Plastizitäts-Profile; unter vergleichbaren Parameterbudgets erzielt orthogonales Feintuning die günstigste Pareto-Front. Um diese Unterschiede zu erklären, analysieren wir PEFT-Updates aus zwei geometrischen Perspektiven. Im Gewichtsraum zeigt die Spektralanalyse, wie Parametrisierungen mit der vortrainierten Singulärwertstruktur interagieren. Im Aktivierungsraum zeigen Retentionsmetriken, ob das Feintuning Repräsentationen allgemeiner Fähigkeiten bewahrt oder verzerrt, wobei Vergessen mit nicht-isometrischer Repräsentationsverzerrung verbunden ist. Schließlich zeigt eine Analyse, dass finale SFT-Checkpoints oft einen besseren Ziel-Erhaltungs-Arbeitspunkt überschreiten. Inspiriert hiervon präsentieren wir Fallstudien einer nachträglichen Verbesserung durch pfadweises Zurückspulen.

English

Parameter-efficient finetuning (PEFT) has become the standard approach for adapting large language models, yet evaluations largely emphasize downstream accuracy while overlooking the retention of pretrained capabilities. We argue that PEFT should be assessed through the stability-plasticity dilemma: the trade-off between target-task adaptation and resistance to forgetting. We introduce PEFT-Arena, a benchmark that jointly measures downstream performance and general capability retention. Across methods, we find distinct stability-plasticity profiles; under comparable parameter budgets, orthogonal finetuning achieves the most favorable Pareto frontier. To explain these differences, we analyze PEFT updates from two geometric perspectives. In weight space, spectral analysis reveals how parameterizations interact with the pretrained singular-value structure. In activation space, retention metrics show whether finetuning preserves or distorts general-capability representations, with forgetting linked to non-isometric representation distortion. Finally, an analysis shows that final SFT checkpoints often overshoot a better target-retention operating point. Inspired by this, we present case studies of a post-hoc improvement with path-wise rewinding.