Extraction de Données Textuelles et Structurées à partir du Dépôt de Publications HAL

Harvesting Textual and Structured Data from the HAL Publication Repository

July 30, 2024

Auteurs: Francis Kulumba, Wissam Antoun, Guillaume Vimont, Laurent Romary

cs.AI

Résumé

HAL (Hyper Articles en Ligne) est le dépôt national français de publications, utilisé par la plupart des établissements d'enseignement supérieur et des organismes de recherche dans le cadre de leur politique de science ouverte. En tant que bibliothèque numérique, il constitue un riche référentiel de documents académiques, mais son potentiel pour la recherche avancée a été sous-exploité. Nous présentons HALvest, un ensemble de données unique qui comble le fossé entre les réseaux de citations et le texte intégral des articles soumis sur HAL. Nous avons élaboré notre jeu de données en filtrant HAL pour ne retenir que les publications académiques, ce qui a permis d'obtenir environ 700 000 documents, couvrant 34 langues et 13 domaines identifiés, adaptés à l'entraînement de modèles de langage, et générant environ 16,5 milliards de tokens (dont 8 milliards en français et 7 milliards en anglais, les langues les plus représentées). Nous transformons les métadonnées de chaque article en un réseau de citations, produisant ainsi un graphe hétérogène orienté. Ce graphe inclut les auteurs identifiés de manière unique sur HAL, ainsi que tous les articles soumis en libre accès et leurs citations. Nous proposons une base de référence pour l'attribution d'auteurs en utilisant ce jeu de données, implémentons une gamme de modèles de pointe en apprentissage de représentation de graphes pour la prédiction de liens, et discutons de l'utilité de la structure de graphe de connaissances que nous avons générée.

English

HAL (Hyper Articles en Ligne) is the French national publication repository, used by most higher education and research organizations for their open science policy. As a digital library, it is a rich repository of scholarly documents, but its potential for advanced research has been underutilized. We present HALvest, a unique dataset that bridges the gap between citation networks and the full text of papers submitted on HAL. We craft our dataset by filtering HAL for scholarly publications, resulting in approximately 700,000 documents, spanning 34 languages across 13 identified domains, suitable for language model training, and yielding approximately 16.5 billion tokens (with 8 billion in French and 7 billion in English, the most represented languages). We transform the metadata of each paper into a citation network, producing a directed heterogeneous graph. This graph includes uniquely identified authors on HAL, as well as all open submitted papers, and their citations. We provide a baseline for authorship attribution using the dataset, implement a range of state-of-the-art models in graph representation learning for link prediction, and discuss the usefulness of our generated knowledge graph structure.