Prinzipienbasierte Anweisungen sind alles, was Sie zum Befragen von LLaMA-1/2 und GPT-3.5/4 benötigen.

Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4

December 26, 2023

Autoren: Sondos Mahmoud Bsharat, Aidar Myrzakhan, Zhiqiang Shen

cs.AI

Zusammenfassung

Dieses Papier stellt 26 Leitprinzipien vor, die darauf abzielen, den Prozess der Abfrage und Prompting von großen Sprachmodellen zu optimieren. Unser Ziel ist es, die grundlegenden Konzepte der Formulierung von Fragen für verschiedene Größenordnungen großer Sprachmodelle zu vereinfachen, ihre Fähigkeiten zu untersuchen und das Verständnis der Benutzer für das Verhalten unterschiedlicher Größenordnungen großer Sprachmodelle bei der Eingabe verschiedener Prompts zu verbessern. Umfangreiche Experimente wurden mit LLaMA-1/2 (7B, 13B und 70B) sowie GPT-3.5/4 durchgeführt, um die Wirksamkeit der vorgeschlagenen Prinzipien für die Gestaltung von Anweisungen und Prompts zu überprüfen. Wir hoffen, dass diese Arbeit eine bessere Anleitung für Forscher bietet, die sich mit dem Prompting großer Sprachmodelle beschäftigen. Die Projektseite ist unter https://github.com/VILA-Lab/ATLAS verfügbar.

English

This paper introduces 26 guiding principles designed to streamline the process of querying and prompting large language models. Our goal is to simplify the underlying concepts of formulating questions for various scales of large language models, examining their abilities, and enhancing user comprehension on the behaviors of different scales of large language models when feeding into different prompts. Extensive experiments are conducted on LLaMA-1/2 (7B, 13B and 70B), GPT-3.5/4 to verify the effectiveness of the proposed principles on instructions and prompts design. We hope that this work provides a better guide for researchers working on the prompting of large language models. Project page is available at https://github.com/VILA-Lab/ATLAS.