Modellen trainen om niet-helpende gedachten te genereren, herkennen en herformuleren

Training Models to Generate, Recognize, and Reframe Unhelpful Thoughts

July 6, 2023

Auteurs: Mounica Maddela, Megan Ung, Jing Xu, Andrea Madotto, Heather Foran, Y-Lan Boureau

cs.AI

Samenvatting

Veel cognitieve benaderingen van welzijn, zoals het herkennen en herformuleren van onhelpende gedachten, hebben de afgelopen decennia aanzienlijke empirische ondersteuning gekregen, maar zijn nog steeds niet echt wijdverbreid geadopteerd in zelfhulpformaat. Een belemmering voor die adoptie is een gebrek aan voldoende specifiek en divers oefenmateriaal dat hierop is toegespitst. Dit onderzoek onderzoekt of huidige taalmodelle gebruikt kunnen worden om zowel een vrijwel onbeperkte hoeveelheid oefenmateriaal te produceren dat standaard onhelpende denkpatronen illustreert die passen bij specifieke gegeven contexten, als geschikte positieve herformuleringen te genereren. We stellen PATTERNREFRAME voor, een nieuwe dataset van ongeveer 10.000 voorbeelden van gedachten die onhelpende denkpatronen bevatten, afgestemd op een gegeven persona, vergezeld van ongeveer 27.000 positieve herformuleringen. Door deze dataset te gebruiken om huidige modellen te trainen en/of te evalueren, laten we zien dat bestaande modellen al krachtige hulpmiddelen kunnen zijn om een overvloed aan op maat gemaakt oefenmateriaal en hypothesen te genereren, zonder of met minimale aanvullende modeltraining.

English

Many cognitive approaches to well-being, such as recognizing and reframing unhelpful thoughts, have received considerable empirical support over the past decades, yet still lack truly widespread adoption in self-help format. A barrier to that adoption is a lack of adequately specific and diverse dedicated practice material. This work examines whether current language models can be leveraged to both produce a virtually unlimited quantity of practice material illustrating standard unhelpful thought patterns matching specific given contexts, and generate suitable positive reframing proposals. We propose PATTERNREFRAME, a novel dataset of about 10k examples of thoughts containing unhelpful thought patterns conditioned on a given persona, accompanied by about 27k positive reframes. By using this dataset to train and/or evaluate current models, we show that existing models can already be powerful tools to help generate an abundance of tailored practice material and hypotheses, with no or minimal additional model training required.