大規模言語モデルの課題と応用

Challenges and Applications of Large Language Models

July 19, 2023

著者: Jean Kaddour, Joshua Harris, Maximilian Mozes, Herbie Bradley, Roberta Raileanu, Robert McHardy

cs.AI

要旨

大規模言語モデル（LLMs）は、わずか数年で機械学習の議論において存在しない状態から遍在する存在へと変貌を遂げました。この分野の急速な進展により、残された課題や既に成果を上げている応用領域を特定することが困難になっています。本論文では、体系的に未解決の問題と成功した応用例を整理し、ML研究者がこの分野の現状を迅速に理解し、生産的になることを目指します。

English

Large Language Models (LLMs) went from non-existent to ubiquitous in the machine learning discourse within a few years. Due to the fast pace of the field, it is difficult to identify the remaining challenges and already fruitful application areas. In this paper, we aim to establish a systematic set of open problems and application successes so that ML researchers can comprehend the field's current state more quickly and become productive.