SaulLM-54B e SaulLM-141B: Ampliando a Adaptação de Domínio para o Domínio Legal

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Autores: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Resumo

Neste artigo, apresentamos o SaulLM-54B e o SaulLM-141B, dois grandes modelos de linguagem (LLMs) desenvolvidos para o setor jurídico. Esses modelos, com arquiteturas de 54 bilhões e 141 bilhões de parâmetros, respectivamente, são baseados na arquitetura Mixtral. O desenvolvimento do SaulLM-54B e do SaulLM-141B é orientado pela adaptação de domínio em larga escala, dividida em três estratégias: (1) a exploração de pré-treinamento contínuo envolvendo um corpus base que inclui mais de 540 bilhões de tokens legais, (2) a implementação de um protocolo especializado de seguimento de instruções legais e (3) o alinhamento das saídas do modelo com as preferências humanas em interpretações legais. A integração de dados gerados sinteticamente nos segundo e terceiro passos aprimora as capacidades dos modelos em interpretar e processar textos legais, alcançando efetivamente um desempenho de ponta e superando modelos de código aberto anteriores no LegalBench-Instruct. Este trabalho explora os compromissos envolvidos na adaptação específica de domínio nessa escala, oferecendo insights que podem informar estudos futuros sobre adaptação de domínio usando modelos decodificadores robustos. Construindo sobre o SaulLM-7B, este estudo aprimora a abordagem para produzir um LLM mais bem equipado para tarefas jurídicas. Estamos disponibilizando versões base, de instrução e alinhadas sobre o SaulLM-54B e o SaulLM-141B sob a Licença MIT para facilitar a reutilização e a pesquisa colaborativa.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.