原則に基づいた指示は、LLaMA-1/2およびGPT-3.5/4の質問生成に必要なすべてである

Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4

December 26, 2023

著者: Sondos Mahmoud Bsharat, Aidar Myrzakhan, Zhiqiang Shen

cs.AI

要旨

本論文では、大規模言語モデルに対するクエリやプロンプトのプロセスを効率化するために設計された26のガイドラインを紹介する。我々の目的は、様々な規模の大規模言語モデルに対する質問の作成、それらの能力の検証、そして異なるプロンプトを入力した際の異なる規模の大規模言語モデルの挙動に対するユーザーの理解を深めるための基本的な概念を簡素化することである。提案されたガイドラインの有効性を検証するため、LLaMA-1/2（7B、13B、70B）およびGPT-3.5/4を用いた広範な実験が行われた。本研究成果が、大規模言語モデルのプロンプト設計に取り組む研究者にとってより良い指針となることを期待する。プロジェクトページはhttps://github.com/VILA-Lab/ATLASで公開されている。

English

This paper introduces 26 guiding principles designed to streamline the process of querying and prompting large language models. Our goal is to simplify the underlying concepts of formulating questions for various scales of large language models, examining their abilities, and enhancing user comprehension on the behaviors of different scales of large language models when feeding into different prompts. Extensive experiments are conducted on LLaMA-1/2 (7B, 13B and 70B), GPT-3.5/4 to verify the effectiveness of the proposed principles on instructions and prompts design. We hope that this work provides a better guide for researchers working on the prompting of large language models. Project page is available at https://github.com/VILA-Lab/ATLAS.