Raccolta di Dati Testuali e Strutturati dal Repository di Pubblicazioni HAL
Harvesting Textual and Structured Data from the HAL Publication Repository
July 30, 2024
Autori: Francis Kulumba, Wissam Antoun, Guillaume Vimont, Laurent Romary
cs.AI
Abstract
HAL (Hyper Articles en Ligne) è il repository nazionale francese per le pubblicazioni, utilizzato dalla maggior parte delle organizzazioni di istruzione superiore e ricerca per la loro politica di scienza aperta. Come biblioteca digitale, rappresenta un ricco archivio di documenti accademici, ma il suo potenziale per la ricerca avanzata è stato sottoutilizzato. Presentiamo HALvest, un dataset unico che colma il divario tra le reti di citazioni e il testo completo degli articoli pubblicati su HAL. Costruiamo il nostro dataset filtrando HAL per le pubblicazioni accademiche, ottenendo circa 700.000 documenti, che coprono 34 lingue in 13 domini identificati, adatti per l'addestramento di modelli linguistici e che producono approssimativamente 16,5 miliardi di token (di cui 8 miliardi in francese e 7 miliardi in inglese, le lingue più rappresentate). Trasformiamo i metadati di ciascun articolo in una rete di citazioni, producendo un grafo eterogeneo diretto. Questo grafo include autori identificati in modo univoco su HAL, tutti gli articoli pubblicati in accesso aperto e le loro citazioni. Forniamo una baseline per l'attribuzione della paternità utilizzando il dataset, implementiamo una gamma di modelli all'avanguardia nell'apprendimento di rappresentazioni grafiche per la previsione di collegamenti e discutiamo l'utilità della struttura del grafo della conoscenza da noi generata.
English
HAL (Hyper Articles en Ligne) is the French national publication repository,
used by most higher education and research organizations for their open science
policy. As a digital library, it is a rich repository of scholarly documents,
but its potential for advanced research has been underutilized. We present
HALvest, a unique dataset that bridges the gap between citation networks and
the full text of papers submitted on HAL. We craft our dataset by filtering HAL
for scholarly publications, resulting in approximately 700,000 documents,
spanning 34 languages across 13 identified domains, suitable for language model
training, and yielding approximately 16.5 billion tokens (with 8 billion in
French and 7 billion in English, the most represented languages). We transform
the metadata of each paper into a citation network, producing a directed
heterogeneous graph. This graph includes uniquely identified authors on HAL, as
well as all open submitted papers, and their citations. We provide a baseline
for authorship attribution using the dataset, implement a range of
state-of-the-art models in graph representation learning for link prediction,
and discuss the usefulness of our generated knowledge graph structure.