PEFT-Arena: Compreendendo o Ajuste Fino Eficiente em Parâmetros sob uma Perspectiva de Estabilidade-Plasticidade

Resumo

Ajuste fino eficiente em parâmetros (PEFT) tornou-se a abordagem padrão para adaptar grandes modelos de linguagem, contudo as avaliações enfatizam predominantemente a precisão downstream, negligenciando a retenção de capacidades pré-treinadas. Argumentamos que o PEFT deve ser avaliado sob o dilema estabilidade-plasticidade: o trade-off entre adaptação à tarefa-alvo e resistência ao esquecimento. Apresentamos o PEFT-Arena, um benchmark que mede conjuntamente o desempenho downstream e a retenção de capacidades gerais. Entre os métodos, observamos perfis distintos de estabilidade-plasticidade; sob orçamentos de parâmetros comparáveis, o ajuste fino ortogonal alcança a fronteira de Pareto mais favorável. Para explicar essas diferenças, analisamos as atualizações de PEFT sob duas perspectivas geométricas. No espaço de pesos, a análise espectral revela como as parametrizações interagem com a estrutura de valores singulares pré-treinada. No espaço de ativações, métricas de retenção mostram se o ajuste fino preserva ou distorce representações de capacidades gerais, com o esquecimento associado à distorção de representação não isométrica. Por fim, uma análise mostra que checkpoints finais de SFT frequentemente ultrapassam um ponto de operação melhor para a retenção-alvo. Inspirados por isso, apresentamos estudos de caso de uma melhoria pós-hoc com rebobinamento por caminho.

English

Parameter-efficient finetuning (PEFT) has become the standard approach for adapting large language models, yet evaluations largely emphasize downstream accuracy while overlooking the retention of pretrained capabilities. We argue that PEFT should be assessed through the stability-plasticity dilemma: the trade-off between target-task adaptation and resistance to forgetting. We introduce PEFT-Arena, a benchmark that jointly measures downstream performance and general capability retention. Across methods, we find distinct stability-plasticity profiles; under comparable parameter budgets, orthogonal finetuning achieves the most favorable Pareto frontier. To explain these differences, we analyze PEFT updates from two geometric perspectives. In weight space, spectral analysis reveals how parameterizations interact with the pretrained singular-value structure. In activation space, retention metrics show whether finetuning preserves or distorts general-capability representations, with forgetting linked to non-isometric representation distortion. Finally, an analysis shows that final SFT checkpoints often overshoot a better target-retention operating point. Inspired by this, we present case studies of a post-hoc improvement with path-wise rewinding.