ProSA: Оценка и понимание чувствительности к запросу LLMs

ProSA: Assessing and Understanding the Prompt Sensitivity of LLMs

October 16, 2024

Авторы: Jingming Zhuo, Songyang Zhang, Xinyu Fang, Haodong Duan, Dahua Lin, Kai Chen

cs.AI

Аннотация

Большие языковые модели (LLM) продемонстрировали впечатляющие возможности в различных задачах, однако их производительность крайне чувствительна к используемым подсказкам. Эта изменчивость создает проблемы для точной оценки и удовлетворенности пользователей. Текущие исследования часто не учитывают вариации подсказок на уровне экземпляра и их влияние на субъективные оценки. Для решения этих недостатков мы представляем ProSA, фреймворк, разработанный для оценки и понимания чувствительности к подсказкам в LLM. ProSA включает новую метрику чувствительности, PromptSensiScore, и использует уверенность декодирования для разъяснения основных механизмов. Наше обширное исследование, охватывающее несколько задач, показывает, что чувствительность к подсказкам колеблется в зависимости от наборов данных и моделей, причем более крупные модели проявляют улучшенную устойчивость. Мы замечаем, что примеры с небольшим числом обучающих примеров могут смягчить эту проблему чувствительности, и субъективные оценки также подвержены чувствительности к подсказкам, особенно в сложных задачах, ориентированных на рассуждения. Более того, наши результаты показывают, что более высокая уверенность модели коррелирует с увеличением устойчивости к подсказкам. Мы считаем, что эта работа станет полезным инструментом для изучения чувствительности к подсказкам в LLM. Проект доступен по ссылке: https://github.com/open-compass/ProSA.

English

Large language models (LLMs) have demonstrated impressive capabilities across various tasks, but their performance is highly sensitive to the prompts utilized. This variability poses challenges for accurate assessment and user satisfaction. Current research frequently overlooks instance-level prompt variations and their implications on subjective evaluations. To address these shortcomings, we introduce ProSA, a framework designed to evaluate and comprehend prompt sensitivity in LLMs. ProSA incorporates a novel sensitivity metric, PromptSensiScore, and leverages decoding confidence to elucidate underlying mechanisms. Our extensive study, spanning multiple tasks, uncovers that prompt sensitivity fluctuates across datasets and models, with larger models exhibiting enhanced robustness. We observe that few-shot examples can alleviate this sensitivity issue, and subjective evaluations are also susceptible to prompt sensitivities, particularly in complex, reasoning-oriented tasks. Furthermore, our findings indicate that higher model confidence correlates with increased prompt robustness. We believe this work will serve as a helpful tool in studying prompt sensitivity of LLMs. The project is released at: https://github.com/open-compass/ProSA .