Прогнозирование идеологии немецких политических текстов

Аннотация

Выборы представляют собой ключевую веху в непрерывном развитии государства. Для более глубокого понимания политической риторики различных движений — от левых до правых — мы предлагаем модель на основе трансформера, способную проецировать политическую ориентацию текста на непрерывный спектр «лево-право», представленный нормализованным скаляром d в диапазоне от -1 до 1. Такой подход позволяет аналитикам сосредоточиться на конкретных сегментах политического ландшафта, например, на консерваторах, исключая при этом либеральные и ультраправые движения. Эта задача может быть выполнена только с помощью мультиклассовых классификаторов при условии, что желаемая ориентация включена в один из их предопределённых классов. Для определения наиболее подходящей базовой модели среди 13 кандидатов-трансформеров для этой задачи мы построили четыре различных корпуса. Один корпус состоял из аннотированных стенограмм пленарных заседаний немецкого Бундестага, другой был основан на официальном онлайн-инструменте для принятия решений Wahl-O-Mat. Третий корпус включал статьи из 33 газет, каждая из которых идентифицирована по своей политической ориентации, а четвёртый — 535 200 твитов от 597 членов 20-го и 21-го созывов немецкого Бундестага. Для снижения переобучения мы использовали два различных корпуса для обучения и два для тестирования соответственно. Для внутридоменного тестирования наилучший показатель F1 достигнут моделью DeBERTa-large (F1=0,844), а для внедоменного тестирования на данных X (Twitter) — ACC=0,864. Что касается внедоменного тестирования на газетных данных, лучшие результаты показала модель Gemma2-2B (MAE=0,172). Данное исследование демонстрирует, что модели-трансформеры способны распознавать политическое фреймирование в немецких новостях на уровне опросов общественного мнения. Наши результаты показывают, что как архитектура модели, так и наличие предметно-специфических тренировочных данных могут быть столь же влиятельными, как и размер модели, при оценке политической предвзятости. Мы обсуждаем методологические ограничения и намечаем направления для улучшения надёжности измерения предвзятости.

English

Elections represent a crucial milestone in a nation's ongoing development. To better understand the political rhetoric from various movements, ranging from left to right, we propose a transformer-based model capable of projecting the political orientation of a text on a continuous left-to-right spectrum, represented by a normalized scalar d between -1 and 1. This approach enables analysts to focus on specific segments of the political landscape, such as conservatives, while excluding liberal and far-right movements. Such a task can only be achieved with multiclass classifiers, provided that the desired orientation is incorporated within one of their predefined classes. To determine the most suitable foundation model among 13 candidate transformers for this task, we constructed four distinct corpora. One corpus comprised annotated plenary notes from the German Bundestag, while another was based on an official online decision-making tool, Wahl-O-Mat. The third corpus consisted of articles from 33 newspapers, each identified by its political orientation, and the fourth included 535,200 tweets from 597 members of the 20th and 21st German Bundestag. To mitigate overfitting, we used two distinct corpora for training and two for testing, respectively. For in-domain performance, DeBERTa-large achieved the highest F1 score F1=0.844 as well as for the X (Twitter) out-of-domain test ACC=0.864. Regarding the newspaper out-of-domain test, Gemma2-2B excelled (MAE = 0.172). This study demonstrates that transformer models can recognize political framing in German news at the level of public opinion polls. Our findings suggest that both the model architecture and the availability of domain-specific training data can be as influential as model size for estimating political bias. We discuss methodological limitations and outline directions for improving the robustness of bias measurement.