Multi-task end-to-end training verbetert conversatie-aanbevelingen.
Multi-Task End-to-End Training Improves Conversational Recommendation
May 8, 2023
Auteurs: Naveen Ram, Dima Kuzmin, Ellie Ka In Chio, Moustafa Farid Alzantot, Santiago Ontanon, Ambarish Jash, Judith Yue Li
cs.AI
Samenvatting
In dit artikel analyseren we de prestaties van een multitask end-to-end transformermodel voor de taak van conversatie-aanbevelingen, die gericht zijn op het geven van aanbevelingen op basis van expliciete voorkeuren van een gebruiker zoals uitgedrukt in een dialoog. Terwijl eerdere werken in dit gebied complexe multi-componentbenaderingen hanteren waarbij de dialoogbeheer- en entiteitsaanbevelingstaken door afzonderlijke componenten worden afgehandeld, tonen we aan dat een uniform transformermodel, gebaseerd op het T5 text-to-text transformermodel, competitief kan presteren in zowel het aanbevelen van relevante items als het genereren van conversatiedialoog. We fine-tunen ons model op de ReDIAL dataset voor conversatie-aanbevelingen voor films, en creëren aanvullende trainings taken afgeleid van MovieLens (zoals het voorspellen van filmattributen en gerelateerde films op basis van een ingevoerde film), in een multitask leeromgeving. Met behulp van een reeks proefstudies demonstreren we dat de opgedane kennis in de aanvullende taken wordt overgedragen naar de conversatieomgeving, waarbij elke taak leidt tot een toename van 9%-52% in de bijbehorende proefscore.
English
In this paper, we analyze the performance of a multitask end-to-end
transformer model on the task of conversational recommendations, which aim to
provide recommendations based on a user's explicit preferences expressed in
dialogue. While previous works in this area adopt complex multi-component
approaches where the dialogue management and entity recommendation tasks are
handled by separate components, we show that a unified transformer model, based
on the T5 text-to-text transformer model, can perform competitively in both
recommending relevant items and generating conversation dialogue. We fine-tune
our model on the ReDIAL conversational movie recommendation dataset, and create
additional training tasks derived from MovieLens (such as the prediction of
movie attributes and related movies based on an input movie), in a multitask
learning setting. Using a series of probe studies, we demonstrate that the
learned knowledge in the additional tasks is transferred to the conversational
setting, where each task leads to a 9%-52% increase in its related probe score.