LLMs + Persona-Plug = Personalisierte LLMs

LLMs + Persona-Plug = Personalized LLMs

September 18, 2024

Autoren: Jiongnan Liu, Yutao Zhu, Shuting Wang, Xiaochi Wei, Erxue Min, Yu Lu, Shuaiqiang Wang, Dawei Yin, Zhicheng Dou

cs.AI

Zusammenfassung

Personalisierung spielt eine entscheidende Rolle in zahlreichen Sprachaufgaben und Anwendungen, da Benutzer mit denselben Anforderungen unterschiedliche Ausgaben basierend auf ihren individuellen Interessen bevorzugen können. Dies hat zur Entwicklung verschiedener personalisierter Ansätze geführt, die darauf abzielen, große Sprachmodelle (LLMs) anzupassen, um maßgeschneiderte Ausgaben zu generieren, die den Benutzervorlieben entsprechen. Einige davon beinhalten das Feintuning eines einzigartigen personalisierten LLMs für jeden Benutzer, was für eine weitreichende Anwendung zu teuer ist. Alternativansätze integrieren Personalisierungsinformationen auf Plug-and-Play-Basis, indem sie die relevanten historischen Texte des Benutzers als Demonstrationen abrufen. Allerdings kann diese abrufbasierte Strategie die Kontinuität des Benutzerverlaufs unterbrechen und es versäumen, die Gesamtstile und -muster des Benutzers zu erfassen, was zu suboptimaler Leistung führt. Um diese Herausforderungen anzugehen, schlagen wir ein neuartiges personalisiertes LLM-Modell vor. Es erstellt für jeden einzelnen Benutzer eine benutzerspezifische Einbettung, indem es alle ihre historischen Kontexte durch ein leichtgewichtiges Plug-in-Benutzer-Einbettungsmodul modelliert. Durch Anhängen dieser Einbettung an die Aufgabeneingabe können LLMs die Benutzergewohnheiten und -präferenzen besser verstehen und erfassen, wodurch sie personalisiertere Ausgaben erzeugen können, ohne ihre eigenen Parameter anzupassen. Umfangreiche Experimente zu verschiedenen Aufgaben im Benchmark für die Personalisierung von Sprachmodellen (LaMP) zeigen, dass das vorgeschlagene Modell signifikant bessere Leistungen erbringt als bestehende personalisierte LLM-Ansätze.

English

Personalization plays a critical role in numerous language tasks and applications, since users with the same requirements may prefer diverse outputs based on their individual interests. This has led to the development of various personalized approaches aimed at adapting large language models (LLMs) to generate customized outputs aligned with user preferences. Some of them involve fine-tuning a unique personalized LLM for each user, which is too expensive for widespread application. Alternative approaches introduce personalization information in a plug-and-play manner by retrieving the user's relevant historical texts as demonstrations. However, this retrieval-based strategy may break the continuity of the user history and fail to capture the user's overall styles and patterns, hence leading to sub-optimal performance. To address these challenges, we propose a novel personalized LLM model, . It constructs a user-specific embedding for each individual by modeling all her historical contexts through a lightweight plug-in user embedder module. By attaching this embedding to the task input, LLMs can better understand and capture user habits and preferences, thereby producing more personalized outputs without tuning their own parameters. Extensive experiments on various tasks in the language model personalization (LaMP) benchmark demonstrate that the proposed model significantly outperforms existing personalized LLM approaches.