원칙 기반 지침만으로도 LLaMA-1/2, GPT-3.5/4 질문하기에 충분합니다

초록

본 논문은 대규모 언어 모델을 쿼리하고 프롬프트하는 과정을 간소화하기 위해 설계된 26가지 지침 원칙을 소개합니다. 우리의 목표는 다양한 규모의 대규모 언어 모델에 대한 질문을 구성하는 기본 개념을 단순화하고, 이들의 능력을 검토하며, 서로 다른 프롬프트를 입력했을 때 다양한 규모의 대규모 언어 모델의 행동에 대한 사용자의 이해를 향상시키는 것입니다. LLaMA-1/2 (7B, 13B 및 70B), GPT-3.5/4에 대한 광범위한 실험을 통해 제안된 원칙들이 지침 및 프롬프트 설계에 미치는 효과를 검증하였습니다. 이 연구가 대규모 언어 모델의 프롬프트 작업에 종사하는 연구자들에게 더 나은 가이드를 제공하기를 바랍니다. 프로젝트 페이지는 https://github.com/VILA-Lab/ATLAS에서 확인할 수 있습니다.

English

This paper introduces 26 guiding principles designed to streamline the process of querying and prompting large language models. Our goal is to simplify the underlying concepts of formulating questions for various scales of large language models, examining their abilities, and enhancing user comprehension on the behaviors of different scales of large language models when feeding into different prompts. Extensive experiments are conducted on LLaMA-1/2 (7B, 13B and 70B), GPT-3.5/4 to verify the effectiveness of the proposed principles on instructions and prompts design. We hope that this work provides a better guide for researchers working on the prompting of large language models. Project page is available at https://github.com/VILA-Lab/ATLAS.

원칙 기반 지침만으로도 LLaMA-1/2, GPT-3.5/4 질문하기에 충분합니다

Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4

초록

Support