Instruções Fundamentais São Tudo o que Você Precisa para Questionar LLaMA-1/2, GPT-3.5/4

Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4

December 26, 2023

Autores: Sondos Mahmoud Bsharat, Aidar Myrzakhan, Zhiqiang Shen

cs.AI

Resumo

Este artigo apresenta 26 princípios orientadores projetados para simplificar o processo de consulta e elaboração de prompts para modelos de linguagem de grande escala. Nosso objetivo é simplificar os conceitos subjacentes à formulação de perguntas para diferentes escalas de modelos de linguagem de grande escala, examinar suas capacidades e aprimorar a compreensão dos usuários sobre os comportamentos desses modelos em diferentes escalas ao receberem diferentes prompts. Experimentos extensivos foram conduzidos em modelos LLaMA-1/2 (7B, 13B e 70B) e GPT-3.5/4 para verificar a eficácia dos princípios propostos no design de instruções e prompts. Esperamos que este trabalho forneça um guia mais eficaz para pesquisadores que trabalham com a elaboração de prompts para modelos de linguagem de grande escala. A página do projeto está disponível em https://github.com/VILA-Lab/ATLAS.

English

This paper introduces 26 guiding principles designed to streamline the process of querying and prompting large language models. Our goal is to simplify the underlying concepts of formulating questions for various scales of large language models, examining their abilities, and enhancing user comprehension on the behaviors of different scales of large language models when feeding into different prompts. Extensive experiments are conducted on LLaMA-1/2 (7B, 13B and 70B), GPT-3.5/4 to verify the effectiveness of the proposed principles on instructions and prompts design. We hope that this work can provide a better guide for researchers working on the prompting of large language models. Project page is available at https://github.com/VILA-Lab/ATLAS.