Ролевые игры с использованием больших языковых моделей
Role-Play with Large Language Models
May 25, 2023
Авторы: Murray Shanahan, Kyle McDonell, Laria Reynolds
cs.AI
Аннотация
По мере того как диалоговые агенты становятся всё более человекообразными в своих проявлениях, крайне важно разработать эффективные способы описания их поведения на высоком уровне, не впадая в ловушку антропоморфизма. В данной статье мы выдвигаем на первый план концепцию ролевой игры. Рассмотрение поведения диалоговых агентов через призму ролевой игры позволяет нам использовать знакомые термины народной психологии, не приписывая языковым моделям человеческие характеристики, которых у них на самом деле нет. Таким образом рассматриваются два важных случая поведения диалоговых агентов: (кажущийся) обман и (кажущееся) самосознание.
English
As dialogue agents become increasingly human-like in their performance, it is
imperative that we develop effective ways to describe their behaviour in
high-level terms without falling into the trap of anthropomorphism. In this
paper, we foreground the concept of role-play. Casting dialogue agent behaviour
in terms of role-play allows us to draw on familiar folk psychological terms,
without ascribing human characteristics to language models they in fact lack.
Two important cases of dialogue agent behaviour are addressed this way, namely
(apparent) deception and (apparent) self-awareness.