WalledEval: Ein umfassendes Sicherheitsbewertungstoolkit für große Sprachmodelle

WalledEval: A Comprehensive Safety Evaluation Toolkit for Large Language Models

August 7, 2024

Autoren: Prannaya Gupta, Le Qi Yau, Hao Han Low, I-Shiang Lee, Hugo Maximus Lim, Yu Xin Teoh, Jia Hng Koh, Dar Win Liew, Rishabh Bhardwaj, Rajat Bhardwaj, Soujanya Poria

cs.AI

Zusammenfassung

WalledEval ist ein umfassendes KI-Sicherheitsprüfungs-Toolkit, das entwickelt wurde, um große Sprachmodelle (LLMs) zu bewerten. Es unterstützt eine vielfältige Palette von Modellen, einschließlich offengewichtiger und API-basierter Modelle, und umfasst über 35 Sicherheitsbewertungskriterien, die Bereiche wie mehrsprachige Sicherheit, übertriebene Sicherheit und Prompt-Injektionen abdecken. Das Framework unterstützt sowohl die Bewertung von LLMs als auch von Richtlinien und integriert benutzerdefinierte Mutatoren, um die Sicherheit gegen verschiedene Textstilmutationen wie Zukunftsform und Paraphrasierung zu testen. Darüber hinaus stellt WalledEval WalledGuard vor, ein neues, kleines und leistungsstarkes Inhaltsmoderationstool, sowie SGXSTest, einen Bewertungsmaßstab zur Beurteilung übertriebener Sicherheit in kulturellen Kontexten. Wir stellen WalledEval öffentlich unter https://github.com/walledai/walledevalA zur Verfügung.

English

WalledEval is a comprehensive AI safety testing toolkit designed to evaluate large language models (LLMs). It accommodates a diverse range of models, including both open-weight and API-based ones, and features over 35 safety benchmarks covering areas such as multilingual safety, exaggerated safety, and prompt injections. The framework supports both LLM and judge benchmarking, and incorporates custom mutators to test safety against various text-style mutations such as future tense and paraphrasing. Additionally, WalledEval introduces WalledGuard, a new, small and performant content moderation tool, and SGXSTest, a benchmark for assessing exaggerated safety in cultural contexts. We make WalledEval publicly available at https://github.com/walledai/walledevalA.