Het oogsten van tekstuele en gestructureerde gegevens uit de HAL-publicatierepository
Harvesting Textual and Structured Data from the HAL Publication Repository
July 30, 2024
Auteurs: Francis Kulumba, Wissam Antoun, Guillaume Vimont, Laurent Romary
cs.AI
Samenvatting
HAL (Hyper Articles en Ligne) is het nationale Franse publicatierepository,
gebruikt door de meeste instellingen voor hoger onderwijs en onderzoek voor hun
open science-beleid. Als digitale bibliotheek is het een rijke verzameling van
wetenschappelijke documenten, maar het potentieel voor geavanceerd onderzoek is
onderbenut gebleven. Wij presenteren HALvest, een unieke dataset die de kloof
overbrugt tussen citatienetwerken en de volledige tekst van artikelen die op HAL
zijn ingediend. We hebben onze dataset samengesteld door HAL te filteren op
wetenschappelijke publicaties, wat resulteert in ongeveer 700.000 documenten,
verspreid over 34 talen in 13 geïdentificeerde domeinen, geschikt voor het trainen
van taalmodelen, en goed voor ongeveer 16,5 miljard tokens (waarvan 8 miljard in
het Frans en 7 miljard in het Engels, de meest vertegenwoordigde talen). We
transformeren de metadata van elk artikel in een citatienetwerk, wat resulteert in
een gerichte heterogene grafiek. Deze grafiek bevat uniek geïdentificeerde auteurs
op HAL, evenals alle open ingediende artikelen en hun citaties. We bieden een
basislijn voor auteurschapstoewijzing met behulp van de dataset, implementeren een
reeks state-of-the-art modellen in grafrepresentatieleer voor linkvoorspelling, en
bespreken het nut van onze gegenereerde kennisgrafiekstructuur.
English
HAL (Hyper Articles en Ligne) is the French national publication repository,
used by most higher education and research organizations for their open science
policy. As a digital library, it is a rich repository of scholarly documents,
but its potential for advanced research has been underutilized. We present
HALvest, a unique dataset that bridges the gap between citation networks and
the full text of papers submitted on HAL. We craft our dataset by filtering HAL
for scholarly publications, resulting in approximately 700,000 documents,
spanning 34 languages across 13 identified domains, suitable for language model
training, and yielding approximately 16.5 billion tokens (with 8 billion in
French and 7 billion in English, the most represented languages). We transform
the metadata of each paper into a citation network, producing a directed
heterogeneous graph. This graph includes uniquely identified authors on HAL, as
well as all open submitted papers, and their citations. We provide a baseline
for authorship attribution using the dataset, implement a range of
state-of-the-art models in graph representation learning for link prediction,
and discuss the usefulness of our generated knowledge graph structure.