Histoires Morales: французский набор данных для оценки морального соответствия

Histoires Morales: A French Dataset for Assessing Moral Alignment

January 28, 2025

Авторы: Thibaud Leteno, Irina Proskurina, Antoine Gourru, Julien Velcin, Charlotte Laclau, Guillaume Metzler, Christophe Gravier

cs.AI

Аннотация

Выравнивание языковых моделей с человеческими ценностями крайне важно, особенно по мере их все более тесной интеграции в повседневную жизнь. Хотя модели часто адаптируются под пользовательские предпочтения, также важно обеспечить их соответствие моральным нормам и поведению в реальных социальных ситуациях. Несмотря на значительные успехи в языках, таких как английский и китайский, французский язык получил мало внимания в этой области, что привело к пробелу в понимании того, как языковые модели обрабатывают моральное рассуждение на этом языке. Для заполнения этого пробела мы представляем Histoires Morales, французский набор данных, происходящий из Моральных Историй, созданный путем перевода и последующей корректировки с участием носителей языка для гарантии грамматической точности и адаптации к французскому культурному контексту. Мы также полагаемся на аннотации моральных ценностей в наборе данных для обеспечения их соответствия французским нормам. Histoires Morales охватывает широкий спектр социальных ситуаций, включая различия в практике чаевых, выражения честности в отношениях и ответственность перед животными. Для поощрения будущих исследований мы также проводим предварительные эксперименты по выравниванию мультиязычных моделей на данных на французском и английском языках и устойчивости выравнивания. Мы обнаружили, что хотя языковые модели обычно выравнены с человеческими моральными нормами по умолчанию, их легко влиять оптимизацией под пользовательские предпочтения как для моральных, так и для аморальных данных.

English

Aligning language models with human values is crucial, especially as they become more integrated into everyday life. While models are often adapted to user preferences, it is equally important to ensure they align with moral norms and behaviours in real-world social situations. Despite significant progress in languages like English and Chinese, French has seen little attention in this area, leaving a gap in understanding how LLMs handle moral reasoning in this language. To address this gap, we introduce Histoires Morales, a French dataset derived from Moral Stories, created through translation and subsequently refined with the assistance of native speakers to guarantee grammatical accuracy and adaptation to the French cultural context. We also rely on annotations of the moral values within the dataset to ensure their alignment with French norms. Histoires Morales covers a wide range of social situations, including differences in tipping practices, expressions of honesty in relationships, and responsibilities toward animals. To foster future research, we also conduct preliminary experiments on the alignment of multilingual models on French and English data and the robustness of the alignment. We find that while LLMs are generally aligned with human moral norms by default, they can be easily influenced with user-preference optimization for both moral and immoral data.