SaulLM-54B & SaulLM-141B: Scalabilità dell'Adattamento al Dominio per il Settore Legale

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Autori: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Abstract

In questo articolo, presentiamo SaulLM-54B e SaulLM-141B, due modelli linguistici di grandi dimensioni (LLM) progettati specificamente per il settore legale. Questi modelli, che presentano architetture rispettivamente da 54 miliardi e 141 miliardi di parametri, si basano sull'architettura Mixtral. Lo sviluppo di SaulLM-54B e SaulLM-141B è guidato da un adattamento su larga scala al dominio, suddiviso in tre strategie: (1) lo sfruttamento di un pre-addestramento continuo che coinvolge un corpus di base comprendente oltre 540 miliardi di token legali, (2) l'implementazione di un protocollo specializzato per il seguimento di istruzioni legali e (3) l'allineamento degli output del modello con le preferenze umane nelle interpretazioni legali. L'integrazione di dati sinteticamente generati nel secondo e terzo passaggio migliora le capacità dei modelli nell'interpretazione e nell'elaborazione di testi legali, raggiungendo efficacemente prestazioni all'avanguardia e superando i precedenti modelli open-source su LegalBench-Instruct. Questo lavoro esplora i compromessi coinvolti nell'adattamento specifico al dominio su questa scala, offrendo spunti che potrebbero informare studi futuri sull'adattamento al dominio utilizzando modelli decoder potenti. Basandosi su SaulLM-7B, questo studio perfeziona l'approccio per produrre un LLM meglio attrezzato per compiti legali. Stiamo rilasciando versioni di base, istruite e allineate su SaulLM-54B e SaulLM-141B sotto la licenza MIT per facilitare il riutilizzo e la ricerca collaborativa.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.