Bielik 7B v0.1: Un Modelo de Lenguaje en Polaco -- Desarrollo, Perspectivas y Evaluación

Bielik 7B v0.1: A Polish Language Model -- Development, Insights, and Evaluation

October 24, 2024

Autores: Krzysztof Ociepa, Łukasz Flis, Krzysztof Wróbel, Adrian Gwoździej, Remigiusz Kinas

cs.AI

Resumen

Presentamos Bielik 7B v0.1, un modelo generativo de texto de 7 mil millones de parámetros para el procesamiento del lenguaje polaco. Entrenado en corpus polacos seleccionados, este modelo aborda desafíos clave en el desarrollo de modelos de lenguaje a través de técnicas innovadoras. Estas incluyen la Pérdida de Entropía Cruzada de Instrucción Ponderada, que equilibra el aprendizaje de diferentes tipos de instrucciones, y la Tasa de Aprendizaje Adaptativa, que ajusta dinámicamente la tasa de aprendizaje según el progreso del entrenamiento. Para evaluar el rendimiento, creamos el Open PL LLM Leaderboard y Polish MT-Bench, marcos novedosos que evalúan diversas tareas de PNL y habilidades conversacionales. Bielik 7B v0.1 demuestra mejoras significativas, logrando un aumento de 9 puntos porcentuales en la puntuación promedio en comparación con Mistral-7B-v0.1 en la tarea de RAG Reader. También destaca en el Polish MT-Bench, especialmente en las categorías de Razonamiento (6.15/10) e Interpretación de Roles (7.83/10). Este modelo representa un avance sustancial en la IA del lenguaje polaco, ofreciendo una herramienta poderosa para diversas aplicaciones lingüísticas y estableciendo nuevos estándares en el campo.

English

We introduce Bielik 7B v0.1, a 7-billion-parameter generative text model for Polish language processing. Trained on curated Polish corpora, this model addresses key challenges in language model development through innovative techniques. These include Weighted Instruction Cross-Entropy Loss, which balances the learning of different instruction types, and Adaptive Learning Rate, which dynamically adjusts the learning rate based on training progress. To evaluate performance, we created the Open PL LLM Leaderboard and Polish MT-Bench, novel frameworks assessing various NLP tasks and conversational abilities. Bielik 7B v0.1 demonstrates significant improvements, achieving a 9 percentage point increase in average score compared to Mistral-7B-v0.1 on the RAG Reader task. It also excels in the Polish MT-Bench, particularly in Reasoning (6.15/10) and Role-playing (7.83/10) categories. This model represents a substantial advancement in Polish language AI, offering a powerful tool for diverse linguistic applications and setting new benchmarks in the field.