Weaver: Фундаментальные модели для творческого письма

Аннотация

В данной работе представлена Weaver — первое семейство больших языковых моделей (LLM), специализирующихся на создании контента. Weaver предварительно обучается на тщательно отобранном корпусе текстов, направленном на улучшение навыков письма у крупных языковых моделей. Затем модель дообучается для задач творческого и профессионального письма и адаптируется к предпочтениям профессиональных авторов с использованием набора новых методов синтеза инструктивных данных и выравнивания LLM, что позволяет ей создавать более человекообразные тексты и следовать более разнообразным инструкциям для генерации контента. Семейство Weaver включает модели различных размеров: Weaver Mini (1,8 млрд параметров), Weaver Base (6 млрд), Weaver Pro (14 млрд) и Weaver Ultra (34 млрд), подходящие для различных приложений и динамически распределяемые маршрутизатором в зависимости от сложности запроса для баланса качества ответа и вычислительных затрат. Оценка на тщательно разработанном бенчмарке для проверки навыков письма LLM показывает, что модели Weaver всех размеров превосходят универсальные LLM, значительно превосходящие их по параметрам. Особенно примечательно, что наша наиболее мощная модель Weaver Ultra превосходит GPT-4, современную универсальную LLM, в различных сценариях письма, демонстрируя преимущество обучения специализированных LLM для задач письма. Кроме того, Weaver изначально поддерживает генерацию с использованием внешних данных (RAG) и вызов функций (использование инструментов). Мы представляем различные примеры использования этих возможностей для улучшения систем письма с ИИ, включая интеграцию внешних баз знаний, инструментов или API, а также предоставление персонализированной помощи в написании текстов. Кроме того, мы обсуждаем и обобщаем рекомендации и лучшие практики для предварительного обучения и дообучения специализированных LLM.

English

This work introduces Weaver, our first family of large language models (LLMs) dedicated to content creation. Weaver is pre-trained on a carefully selected corpus that focuses on improving the writing capabilities of large language models. We then fine-tune Weaver for creative and professional writing purposes and align it to the preference of professional writers using a suit of novel methods for instruction data synthesis and LLM alignment, making it able to produce more human-like texts and follow more diverse instructions for content creation. The Weaver family consists of models of Weaver Mini (1.8B), Weaver Base (6B), Weaver Pro (14B), and Weaver Ultra (34B) sizes, suitable for different applications and can be dynamically dispatched by a routing agent according to query complexity to balance response quality and computation cost. Evaluation on a carefully curated benchmark for assessing the writing capabilities of LLMs shows Weaver models of all sizes outperform generalist LLMs several times larger than them. Notably, our most-capable Weaver Ultra model surpasses GPT-4, a state-of-the-art generalist LLM, on various writing scenarios, demonstrating the advantage of training specialized LLMs for writing purposes. Moreover, Weaver natively supports retrieval-augmented generation (RAG) and function calling (tool usage). We present various use cases of these abilities for improving AI-assisted writing systems, including integration of external knowledge bases, tools, or APIs, and providing personalized writing assistance. Furthermore, we discuss and summarize a guideline and best practices for pre-training and fine-tuning domain-specific LLMs.

Weaver: Фундаментальные модели для творческого письма

Weaver: Foundation Models for Creative Writing

Аннотация

Support