SaulLM-54B y SaulLM-141B: Ampliando la Adaptación de Dominio para el Dominio Legal

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Autores: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Resumen

En este documento, presentamos SaulLM-54B y SaulLM-141B, dos modelos de lenguaje grandes (LLMs) diseñados para el sector legal. Estos modelos, que cuentan con arquitecturas de 54 mil millones y 141 mil millones de parámetros respectivamente, se basan en la arquitectura Mixtral. El desarrollo de SaulLM-54B y SaulLM-141B se guía por la adaptación de dominio a gran escala, dividida en tres estrategias: (1) la explotación de un preentrenamiento continuo que implica un corpus base que incluye más de 540 mil millones de tokens legales, (2) la implementación de un protocolo especializado de seguimiento de instrucciones legales, y (3) la alineación de las salidas del modelo con las preferencias humanas en las interpretaciones legales. La integración de datos generados sintéticamente en los pasos dos y tres mejora las capacidades de los modelos en la interpretación y procesamiento de textos legales, alcanzando efectivamente un rendimiento de vanguardia y superando a modelos de código abierto previos en LegalBench-Instruct. Este trabajo explora los compromisos involucrados en la adaptación específica de dominio a esta escala, ofreciendo ideas que pueden orientar estudios futuros sobre adaptación de dominio utilizando modelos decodificadores sólidos. Basándose en SaulLM-7B, este estudio perfecciona el enfoque para producir un LLM mejor equipado para tareas legales. Estamos lanzando versiones base, instruct y alineada sobre SaulLM-54B y SaulLM-141B bajo la Licencia MIT para facilitar la reutilización y la investigación colaborativa.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.