Извлечение текстовых и структурированных данных из репозитория публикаций HAL.

Harvesting Textual and Structured Data from the HAL Publication Repository

July 30, 2024

Авторы: Francis Kulumba, Wissam Antoun, Guillaume Vimont, Laurent Romary

cs.AI

Аннотация

HAL (Hyper Articles en Ligne) - это репозиторий национальных публикаций Франции, используемый большинством организаций высшего образования и исследований для своей политики открытой науки. Как цифровая библиотека, он представляет собой богатый репозиторий научных документов, однако его потенциал для продвинутых исследований остается недооцененным. Мы представляем HALvest, уникальный набор данных, который сокращает разрыв между сетями цитирования и полным текстом статей, представленных в HAL. Мы создаем наш набор данных, фильтруя HAL для научных публикаций, что приводит к примерно 700 000 документам на 34 языках в 13 определенных областях, подходящих для обучения языковых моделей, и общим объемом примерно 16,5 миллиарда токенов (8 миллиардов на французском и 7 миллиардов на английском, наиболее представленные языки). Мы преобразуем метаданные каждой статьи в сеть цитирования, создавая направленный гетерогенный граф. Этот граф включает уникально идентифицируемых авторов на HAL, а также все открытые представленные статьи и их цитирования. Мы предоставляем базовую линию для атрибуции авторства с использованием набора данных, реализуем ряд передовых моделей в обучении представлений графа для предсказания связей и обсуждаем полезность структуры нашего сгенерированного графа знаний.

English

HAL (Hyper Articles en Ligne) is the French national publication repository, used by most higher education and research organizations for their open science policy. As a digital library, it is a rich repository of scholarly documents, but its potential for advanced research has been underutilized. We present HALvest, a unique dataset that bridges the gap between citation networks and the full text of papers submitted on HAL. We craft our dataset by filtering HAL for scholarly publications, resulting in approximately 700,000 documents, spanning 34 languages across 13 identified domains, suitable for language model training, and yielding approximately 16.5 billion tokens (with 8 billion in French and 7 billion in English, the most represented languages). We transform the metadata of each paper into a citation network, producing a directed heterogeneous graph. This graph includes uniquely identified authors on HAL, as well as all open submitted papers, and their citations. We provide a baseline for authorship attribution using the dataset, implement a range of state-of-the-art models in graph representation learning for link prediction, and discuss the usefulness of our generated knowledge graph structure.