SaulLM-54B & SaulLM-141B : Mise à l'échelle de l'adaptation de domaine pour le secteur juridique

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Auteurs: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Résumé

Dans cet article, nous présentons SaulLM-54B et SaulLM-141B, deux grands modèles de langage (LLM) spécialement conçus pour le secteur juridique. Ces modèles, dotés respectivement d'architectures de 54 milliards et 141 milliards de paramètres, sont basés sur l'architecture Mixtral. Le développement de SaulLM-54B et SaulLM-141B est guidé par une adaptation à grande échelle au domaine, divisée en trois stratégies : (1) l'exploitation d'un pré-entraînement continu impliquant un corpus de base comprenant plus de 540 milliards de tokens juridiques, (2) la mise en œuvre d'un protocole spécialisé de suivi d'instructions juridiques, et (3) l'alignement des sorties du modèle avec les préférences humaines dans les interprétations juridiques. L'intégration de données synthétiquement générées dans les deuxième et troisième étapes améliore les capacités des modèles à interpréter et traiter les textes juridiques, atteignant ainsi des performances de pointe et surpassant les modèles open-source précédents sur LegalBench-Instruct. Ce travail explore les compromis impliqués dans l'adaptation spécifique à un domaine à cette échelle, offrant des insights qui pourraient éclairer les études futures sur l'adaptation de domaine utilisant des modèles décodeurs puissants. S'appuyant sur SaulLM-7B, cette étude affine l'approche pour produire un LLM mieux adapté aux tâches juridiques. Nous publions les versions de base, d'instruction et alignées de SaulLM-54B et SaulLM-141B sous licence MIT pour faciliter la réutilisation et la recherche collaborative.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.