Eine umfassende Studie zur Wissensbearbeitung für große Sprachmodelle

Zusammenfassung

Große Sprachmodelle (LLMs) haben außergewöhnliche Fähigkeiten beim Verstehen und Generieren von Texten gezeigt, die menschliche Kommunikation eng nachahmen. Eine primäre Einschränkung liegt jedoch in den erheblichen Rechenanforderungen während des Trainings, die sich aus ihrer umfangreichen Parametrisierung ergeben. Diese Herausforderung wird durch die dynamische Natur der Welt weiter verstärkt, die häufige Aktualisierungen der LLMs erfordert, um veraltete Informationen zu korrigieren oder neues Wissen zu integrieren und so ihre fortlaufende Relevanz sicherzustellen. Es ist zu beachten, dass viele Anwendungen kontinuierliche Anpassungen des Modells nach dem Training erfordern, um Mängel oder unerwünschte Verhaltensweisen zu beheben. Es besteht ein zunehmendes Interesse an effizienten, leichtgewichtigen Methoden für die Modifikation von Modellen in Echtzeit. In diesem Zusammenhang hat sich in den letzten Jahren die Technik der Wissensbearbeitung für LLMs stark entwickelt, die darauf abzielt, das Verhalten von LLMs in bestimmten Domänen effizient zu modifizieren, während die Gesamtleistung über verschiedene Eingaben hinweg erhalten bleibt. In diesem Artikel definieren wir zunächst das Problem der Wissensbearbeitung und geben dann einen umfassenden Überblick über fortschrittliche Ansätze. Inspiriert von Theorien aus der Bildungs- und Kognitionsforschung schlagen wir ein einheitliches Kategorisierungskriterium vor, das Methoden der Wissensbearbeitung in drei Gruppen einteilt: Rückgriff auf externes Wissen, Integration von Wissen in das Modell und Bearbeitung von intrinsischem Wissen. Darüber hinaus stellen wir einen neuen Benchmark, KnowEdit, für eine umfassende empirische Bewertung repräsentativer Ansätze zur Wissensbearbeitung vor. Zusätzlich bieten wir eine detaillierte Analyse der Wissenslokalisierung, die ein tieferes Verständnis der in LLMs inhärenten Wissensstrukturen ermöglichen kann. Schließlich diskutieren wir mehrere potenzielle Anwendungen der Wissensbearbeitung und skizzieren deren breite und bedeutungsvolle Implikationen.

English

Large Language Models (LLMs) have shown extraordinary capabilities in understanding and generating text that closely mirrors human communication. However, a primary limitation lies in the significant computational demands during training, arising from their extensive parameterization. This challenge is further intensified by the dynamic nature of the world, necessitating frequent updates to LLMs to correct outdated information or integrate new knowledge, thereby ensuring their continued relevance. Note that many applications demand continual model adjustments post-training to address deficiencies or undesirable behaviors. There is an increasing interest in efficient, lightweight methods for on-the-fly model modifications. To this end, recent years have seen a burgeoning in the techniques of knowledge editing for LLMs, which aim to efficiently modify LLMs' behaviors within specific domains while preserving overall performance across various inputs. In this paper, we first define the knowledge editing problem and then provide a comprehensive review of cutting-edge approaches. Drawing inspiration from educational and cognitive research theories, we propose a unified categorization criterion that classifies knowledge editing methods into three groups: resorting to external knowledge, merging knowledge into the model, and editing intrinsic knowledge. Furthermore, we introduce a new benchmark, KnowEdit, for a comprehensive empirical evaluation of representative knowledge editing approaches. Additionally, we provide an in-depth analysis of knowledge location, which can provide a deeper understanding of the knowledge structures inherent within LLMs. Finally, we discuss several potential applications of knowledge editing, outlining its broad and impactful implications.

Eine umfassende Studie zur Wissensbearbeitung für große Sprachmodelle

A Comprehensive Study of Knowledge Editing for Large Language Models

Zusammenfassung

Support