Coleta de Dados Textuais e Estruturados do Repositório de Publicações da HAL

Harvesting Textual and Structured Data from the HAL Publication Repository

July 30, 2024

Autores: Francis Kulumba, Wissam Antoun, Guillaume Vimont, Laurent Romary

cs.AI

Resumo

O HAL (Hyper Articles en Ligne) é o repositório nacional de publicações da França, utilizado pela maioria das organizações de ensino superior e pesquisa para suas políticas de ciência aberta. Como uma biblioteca digital, é um rico repositório de documentos acadêmicos, porém seu potencial para pesquisas avançadas tem sido subutilizado. Apresentamos o HALvest, um conjunto de dados único que preenche a lacuna entre as redes de citações e o texto completo dos artigos submetidos no HAL. Construímos nosso conjunto de dados filtrando o HAL para publicações acadêmicas, resultando em aproximadamente 700.000 documentos, abrangendo 34 idiomas em 13 domínios identificados, adequados para treinamento de modelos de linguagem e resultando em aproximadamente 16,5 bilhões de tokens (com 8 bilhões em francês e 7 bilhões em inglês, os idiomas mais representados). Transformamos os metadados de cada artigo em uma rede de citações, produzindo um grafo heterogêneo direcionado. Esse grafo inclui autores identificados de forma única no HAL, bem como todos os artigos submetidos e suas citações. Fornecemos uma linha de base para atribuição de autoria usando o conjunto de dados, implementamos uma variedade de modelos de ponta em aprendizado de representação de grafos para previsão de links, e discutimos a utilidade da estrutura do nosso grafo de conhecimento gerado.

English

HAL (Hyper Articles en Ligne) is the French national publication repository, used by most higher education and research organizations for their open science policy. As a digital library, it is a rich repository of scholarly documents, but its potential for advanced research has been underutilized. We present HALvest, a unique dataset that bridges the gap between citation networks and the full text of papers submitted on HAL. We craft our dataset by filtering HAL for scholarly publications, resulting in approximately 700,000 documents, spanning 34 languages across 13 identified domains, suitable for language model training, and yielding approximately 16.5 billion tokens (with 8 billion in French and 7 billion in English, the most represented languages). We transform the metadata of each paper into a citation network, producing a directed heterogeneous graph. This graph includes uniquely identified authors on HAL, as well as all open submitted papers, and their citations. We provide a baseline for authorship attribution using the dataset, implement a range of state-of-the-art models in graph representation learning for link prediction, and discuss the usefulness of our generated knowledge graph structure.