ProSA: Avaliando e Compreendendo a Sensibilidade à Prompt de LLMs

ProSA: Assessing and Understanding the Prompt Sensitivity of LLMs

October 16, 2024

Autores: Jingming Zhuo, Songyang Zhang, Xinyu Fang, Haodong Duan, Dahua Lin, Kai Chen

cs.AI

Resumo

Grandes modelos de linguagem (LLMs) têm demonstrado capacidades impressionantes em várias tarefas, mas seu desempenho é altamente sensível aos prompts utilizados. Essa variabilidade apresenta desafios para uma avaliação precisa e a satisfação do usuário. A pesquisa atual frequentemente negligencia variações de prompts em nível de instância e suas implicações nas avaliações subjetivas. Para abordar essas deficiências, apresentamos o ProSA, um framework projetado para avaliar e compreender a sensibilidade ao prompt em LLMs. O ProSA incorpora uma métrica de sensibilidade inovadora, PromptSensiScore, e aproveita a confiança de decodificação para elucidar os mecanismos subjacentes. Nosso estudo extensivo, abrangendo múltiplas tarefas, revela que a sensibilidade ao prompt varia entre conjuntos de dados e modelos, sendo que modelos maiores exibem maior robustez. Observamos que exemplos de poucas amostras podem atenuar esse problema de sensibilidade, e as avaliações subjetivas também são suscetíveis às sensibilidades ao prompt, especialmente em tarefas complexas orientadas para o raciocínio. Além disso, nossas descobertas indicam que uma maior confiança do modelo está correlacionada com uma maior robustez ao prompt. Acreditamos que este trabalho servirá como uma ferramenta útil no estudo da sensibilidade ao prompt de LLMs. O projeto está disponível em: https://github.com/open-compass/ProSA.

English

Large language models (LLMs) have demonstrated impressive capabilities across various tasks, but their performance is highly sensitive to the prompts utilized. This variability poses challenges for accurate assessment and user satisfaction. Current research frequently overlooks instance-level prompt variations and their implications on subjective evaluations. To address these shortcomings, we introduce ProSA, a framework designed to evaluate and comprehend prompt sensitivity in LLMs. ProSA incorporates a novel sensitivity metric, PromptSensiScore, and leverages decoding confidence to elucidate underlying mechanisms. Our extensive study, spanning multiple tasks, uncovers that prompt sensitivity fluctuates across datasets and models, with larger models exhibiting enhanced robustness. We observe that few-shot examples can alleviate this sensitivity issue, and subjective evaluations are also susceptible to prompt sensitivities, particularly in complex, reasoning-oriented tasks. Furthermore, our findings indicate that higher model confidence correlates with increased prompt robustness. We believe this work will serve as a helpful tool in studying prompt sensitivity of LLMs. The project is released at: https://github.com/open-compass/ProSA .