PEFT-Arena: понимание параметро-эффективной тонкой настройки с позиции стабильности-пластичности

Аннотация

Параметро-эффективная донастройка (PEFT) стала стандартным подходом к адаптации больших языковых моделей, однако при оценке основное внимание уделяется точности на целевых задачах, при этом упускается сохранение предобученных способностей. Мы утверждаем, что PEFT следует оценивать через призму дилеммы стабильности-пластичности: компромисса между адаптацией к целевой задаче и устойчивостью к забыванию. Мы представляем PEFT-Arena — бенчмарк, который совместно измеряет производительность на целевых задачах и сохранение общих способностей. Для различных методов обнаружены характерные профили стабильности-пластичности; при сопоставимых бюджетах параметров ортогональная донастройка достигает наиболее благоприятной границы Парето. Чтобы объяснить эти различия, мы анализируем обновления PEFT с двух геометрических точек зрения. В пространстве весов спектральный анализ раскрывает, как параметризации взаимодействуют с предобученной структурой сингулярных значений. В пространстве активаций метрики сохранения показывают, сохраняет ли донастройка представления общих способностей или искажает их, причем забывание связано с неизометрическим искажением представлений. Наконец, анализ показывает, что финальные контрольные точки SFT часто «перелетают» оптимальную рабочую точку по шкале сохранения. Вдохновленные этим, мы представляем примеры апостериорного улучшения с помощью отката по траектории.

English

Parameter-efficient finetuning (PEFT) has become the standard approach for adapting large language models, yet evaluations largely emphasize downstream accuracy while overlooking the retention of pretrained capabilities. We argue that PEFT should be assessed through the stability-plasticity dilemma: the trade-off between target-task adaptation and resistance to forgetting. We introduce PEFT-Arena, a benchmark that jointly measures downstream performance and general capability retention. Across methods, we find distinct stability-plasticity profiles; under comparable parameter budgets, orthogonal finetuning achieves the most favorable Pareto frontier. To explain these differences, we analyze PEFT updates from two geometric perspectives. In weight space, spectral analysis reveals how parameterizations interact with the pretrained singular-value structure. In activation space, retention metrics show whether finetuning preserves or distorts general-capability representations, with forgetting linked to non-isometric representation distortion. Finally, an analysis shows that final SFT checkpoints often overshoot a better target-retention operating point. Inspired by this, we present case studies of a post-hoc improvement with path-wise rewinding.