SaulLM-54B & SaulLM-141B: Schaalvergroting van domeinaanpassing voor het juridische domein

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Auteurs: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Samenvatting

In dit artikel introduceren we SaulLM-54B en SaulLM-141B, twee grote taalmmodellen (LLMs) die specifiek zijn ontwikkeld voor de juridische sector. Deze modellen, met respectievelijk 54 miljard en 141 miljard parameters, zijn gebaseerd op de Mixtral-architectuur. De ontwikkeling van SaulLM-54B en SaulLM-141B wordt geleid door grootschalige domeinaanpassing, onderverdeeld in drie strategieën: (1) het benutten van voortgezette voorafgaande training met een basiscorpus dat meer dan 540 miljard juridische tokens omvat, (2) de implementatie van een gespecialiseerd juridisch instructievolgprotocol, en (3) de afstemming van modeluitvoer op menselijke voorkeuren in juridische interpretaties. De integratie van synthetisch gegenereerde gegevens in de tweede en derde stap verbetert de capaciteiten van de modellen bij het interpreteren en verwerken van juridische teksten, waardoor ze state-of-the-art prestaties bereiken en eerdere open-source modellen op LegalBench-Instruct overtreffen. Dit werk onderzoekt de afwegingen die betrokken zijn bij domeinspecifieke aanpassing op deze schaal en biedt inzichten die toekomstige studies over domeinaanpassing met sterke decodermodellen kunnen informeren. Voortbouwend op SaulLM-7B verfijnt deze studie de aanpak om een LLM te produceren die beter is uitgerust voor juridische taken. We maken basis-, instructie- en afgestemde versies van SaulLM-54B en SaulLM-141B beschikbaar onder de MIT-licentie om hergebruik en collaboratief onderzoek te faciliteren.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.