Bielik 7B v0.1: Польская языковая модель - Разработка, исследования и оценка

Bielik 7B v0.1: A Polish Language Model -- Development, Insights, and Evaluation

October 24, 2024

Авторы: Krzysztof Ociepa, Łukasz Flis, Krzysztof Wróbel, Adrian Gwoździej, Remigiusz Kinas

cs.AI

Аннотация

Мы представляем Bielik 7B v0.1, генеративную текстовую модель с 7 миллиардами параметров для обработки польского языка. Обученная на отобранных корпусах польского языка, эта модель решает основные проблемы развития языковых моделей с помощью инновационных техник. Среди них - взвешенная потеря перекрестной энтропии инструкций, которая балансирует обучение различных типов инструкций, и адаптивная скорость обучения, которая динамически корректирует скорость обучения на основе прогресса обучения. Для оценки производительности мы создали рейтинговую таблицу Open PL LLM Leaderboard и Polish MT-Bench, новые фреймворки, оценивающие различные задачи обработки естественного языка и разговорные способности. Bielik 7B v0.1 демонстрирует значительные улучшения, достигая увеличения среднего балла на 9 процентных пунктов по сравнению с Mistral-7B-v0.1 в задаче RAG Reader. Он также превосходит в Polish MT-Bench, особенно в категориях Рассуждения (6.15/10) и Ролевые игры (7.83/10). Эта модель представляет собой значительный прогресс в области польского языкового искусственного интеллекта, предлагая мощный инструмент для различных лингвистических приложений и устанавливая новые стандарты в области.

English

We introduce Bielik 7B v0.1, a 7-billion-parameter generative text model for Polish language processing. Trained on curated Polish corpora, this model addresses key challenges in language model development through innovative techniques. These include Weighted Instruction Cross-Entropy Loss, which balances the learning of different instruction types, and Adaptive Learning Rate, which dynamically adjusts the learning rate based on training progress. To evaluate performance, we created the Open PL LLM Leaderboard and Polish MT-Bench, novel frameworks assessing various NLP tasks and conversational abilities. Bielik 7B v0.1 demonstrates significant improvements, achieving a 9 percentage point increase in average score compared to Mistral-7B-v0.1 on the RAG Reader task. It also excels in the Polish MT-Bench, particularly in Reasoning (6.15/10) and Role-playing (7.83/10) categories. This model represents a substantial advancement in Polish language AI, offering a powerful tool for diverse linguistic applications and setting new benchmarks in the field.