Bielik 7B v0.1: Um Modelo de Linguagem em Polonês -- Desenvolvimento, Insights e Avaliação

Bielik 7B v0.1: A Polish Language Model -- Development, Insights, and Evaluation

October 24, 2024

Autores: Krzysztof Ociepa, Łukasz Flis, Krzysztof Wróbel, Adrian Gwoździej, Remigiusz Kinas

cs.AI

Resumo

Apresentamos o Bielik 7B v0.1, um modelo gerador de texto de 7 bilhões de parâmetros para o processamento da língua polonesa. Treinado em corpora polonesas selecionadas, este modelo aborda desafios-chave no desenvolvimento de modelos de linguagem por meio de técnicas inovadoras. Estas incluem a Perda Cruzada Ponderada por Instrução, que equilibra a aprendizagem de diferentes tipos de instruções, e a Taxa de Aprendizagem Adaptativa, que ajusta dinamicamente a taxa de aprendizagem com base no progresso do treinamento. Para avaliar o desempenho, criamos o Quadro de Líderes Open PL LLM e o Polish MT-Bench, estruturas inovadoras que avaliam várias tarefas de PNL e habilidades conversacionais. O Bielik 7B v0.1 demonstra melhorias significativas, alcançando um aumento de 9 pontos percentuais na pontuação média em comparação com o Mistral-7B-v0.1 na tarefa de Leitura RAG. Ele também se destaca no Polish MT-Bench, especialmente nas categorias de Raciocínio (6,15/10) e Role-playing (7,83/10). Este modelo representa um avanço substancial na IA da língua polonesa, oferecendo uma ferramenta poderosa para diversas aplicações linguísticas e estabelecendo novos padrões no campo.

English

We introduce Bielik 7B v0.1, a 7-billion-parameter generative text model for Polish language processing. Trained on curated Polish corpora, this model addresses key challenges in language model development through innovative techniques. These include Weighted Instruction Cross-Entropy Loss, which balances the learning of different instruction types, and Adaptive Learning Rate, which dynamically adjusts the learning rate based on training progress. To evaluate performance, we created the Open PL LLM Leaderboard and Polish MT-Bench, novel frameworks assessing various NLP tasks and conversational abilities. Bielik 7B v0.1 demonstrates significant improvements, achieving a 9 percentage point increase in average score compared to Mistral-7B-v0.1 on the RAG Reader task. It also excels in the Polish MT-Bench, particularly in Reasoning (6.15/10) and Role-playing (7.83/10) categories. This model represents a substantial advancement in Polish language AI, offering a powerful tool for diverse linguistic applications and setting new benchmarks in the field.