SaulLM-54B и SaulLM-141B: Масштабирование адаптации домена для юридической сферы

SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain

July 28, 2024

Авторы: Pierre Colombo, Telmo Pires, Malik Boudiaf, Rui Melo, Dominic Culver, Sofia Morgado, Etienne Malaboeuf, Gabriel Hautreux, Johanne Charpentier, Michael Desa

cs.AI

Аннотация

В данной статье мы представляем SaulLM-54B и SaulLM-141B, две большие языковые модели (LLM), разработанные специально для юридического сектора. Эти модели, с архитектурами на 54 миллиарда и 141 миллиард параметров соответственно, основаны на архитектуре Mixtral. Разработка SaulLM-54B и SaulLM-141B основана на масштабной доменной адаптации, разделенной на три стратегии: (1) использование продолжающегося предварительного обучения на базовом корпусе, включающем более 540 миллиардов юридических токенов, (2) внедрение специализированного протокола следования юридическим инструкциям и (3) согласование результатов модели с предпочтениями человека в юридических интерпретациях. Интеграция синтетически сгенерированных данных на втором и третьем этапах улучшает способности моделей в интерпретации и обработке юридических текстов, достигая эффективного уровня производительности и превосходя предыдущие модели с открытым исходным кодом на LegalBench-Instruct. Эта работа исследует компромиссы, связанные с доменно-специфической адаптацией на данном уровне, предлагая идеи, которые могут быть полезны для будущих исследований по адаптации домена с использованием мощных декодерных моделей. Основываясь на SaulLM-7B, данное исследование улучшает подход для создания LLM, более подготовленной для юридических задач. Мы выпускаем базовые, инструктивные и согласованные версии поверх SaulLM-54B и SaulLM-141B под лицензией MIT для облегчения повторного использования и совместных исследований.

English

In this paper, we introduce SaulLM-54B and SaulLM-141B, two large language models (LLMs) tailored for the legal sector. These models, which feature architectures of 54 billion and 141 billion parameters, respectively, are based on the Mixtral architecture. The development of SaulLM-54B and SaulLM-141B is guided by large-scale domain adaptation, divided into three strategies: (1) the exploitation of continued pretraining involving a base corpus that includes over 540 billion of legal tokens, (2) the implementation of a specialized legal instruction-following protocol, and (3) the alignment of model outputs with human preferences in legal interpretations. The integration of synthetically generated data in the second and third steps enhances the models' capabilities in interpreting and processing legal texts, effectively reaching state-of-the-art performance and outperforming previous open-source models on LegalBench-Instruct. This work explores the trade-offs involved in domain-specific adaptation at this scale, offering insights that may inform future studies on domain adaptation using strong decoder models. Building upon SaulLM-7B, this study refines the approach to produce an LLM better equipped for legal tasks. We are releasing base, instruct, and aligned versions on top of SaulLM-54B and SaulLM-141B under the MIT License to facilitate reuse and collaborative research.