Die Auswirkungen urheberrechtlich geschützten Materials auf große Sprachmodelle: Eine norwegische Perspektive

The Impact of Copyrighted Material on Large Language Models: A Norwegian Perspective

December 12, 2024

Autoren: Javier de la Rosa, Vladislav Mikhailov, Lemei Zhang, Freddy Wetjen, David Samuel, Peng Liu, Rolv-Arild Braaten, Petter Mæhlum, Magnus Breder Birkenes, Andrey Kutuzov, Tita Enstad, Svein Arne Brygfjeld, Jon Atle Gulla, Stephan Oepen, Erik Velldal, Wilfred Østgulen, Liljia Øvrelid, Aslak Sira Myhre

cs.AI

Zusammenfassung

Die Verwendung urheberrechtlich geschützter Materialien zur Schulung generativer Sprachmodelle wirft wichtige rechtliche und ethische Fragen auf. Dieser Artikel präsentiert einen Rahmen und die Ergebnisse der empirischen Bewertung des Einflusses urheberrechtlich geschützter Materialien auf die Leistung großer Sprachmodelle für Norwegisch. Wir stellten fest, dass sowohl Bücher als auch Zeitungen einen positiven Beitrag leisten, wenn die Modelle anhand einer vielfältigen Reihe norwegischer Benchmarks bewertet werden, während Belletristik möglicherweise zu einer verringerten Leistung führt. Unsere Experimente könnten zur Schaffung eines Entschädigungssystems für Autoren beitragen, deren Werke zur KI-Entwicklung beitragen.

English

The use of copyrighted materials in training generative language models raises critical legal and ethical questions. This paper presents a framework for and the results of empirically assessing the impact of copyrighted materials on the performance of large language models (LLMs) for Norwegian. We found that both books and newspapers contribute positively when the models are evaluated on a diverse set of Norwegian benchmarks, while fiction works possibly lead to decreased performance. Our experiments could inform the creation of a compensation scheme for authors whose works contribute to AI development.