SaulLM-54B & SaulLM-141B: Skalierung der Domänenanpassung für den Rechtsbereich

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Autoren: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Zusammenfassung

In diesem Paper stellen wir SaulLM-54B und SaulLM-141B vor, zwei große Sprachmodelle (LLMs), die speziell für den juristischen Sektor entwickelt wurden. Diese Modelle, die Architekturen mit 54 Milliarden bzw. 141 Milliarden Parametern aufweisen, basieren auf der Mixtral-Architektur. Die Entwicklung von SaulLM-54B und SaulLM-141B wird durch groß angelegte Domänenanpassung geleitet, die in drei Strategien unterteilt ist: (1) die Ausnutzung eines fortgesetzten Pretrainings mit einem Grundkorpus, das über 540 Milliarden juristische Tokens enthält, (2) die Implementierung eines spezialisierten rechtlichen Anweisungsfolgeprotokolls und (3) die Ausrichtung der Modellausgaben an menschlichen Präferenzen in rechtlichen Interpretationen. Die Integration von synthetisch generierten Daten in den zweiten und dritten Schritten verbessert die Fähigkeiten der Modelle bei der Interpretation und Verarbeitung von juristischen Texten und erreicht effektiv eine Spitzenleistung, wobei frühere Open-Source-Modelle auf LegalBench-Instruct übertroffen werden. Diese Arbeit untersucht die Abwägungen, die bei der domänenspezifischen Anpassung in diesem Maßstab eine Rolle spielen, und bietet Einblicke, die zukünftige Studien zur Domänenanpassung unter Verwendung starker Decoder-Modelle informieren können. Aufbauend auf SaulLM-7B verfeinert diese Studie den Ansatz, um ein LLM zu produzieren, das besser für juristische Aufgaben ausgestattet ist. Wir veröffentlichen Basismodelle, Anweisungsmodelle und ausgerichtete Versionen von SaulLM-54B und SaulLM-141B unter der MIT-Lizenz, um die Wiederverwendung und die Zusammenarbeit in der Forschung zu erleichtern.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.