RuOpinionNE-2024: Извлечение кортежей мнений из новостных текстов на русском языке

RuOpinionNE-2024: Extraction of Opinion Tuples from Russian News Texts

April 9, 2025

Авторы: Natalia Loukachevitch, Natalia Tkachenko, Anna Lapanitsyna, Mikhail Tikhomirov, Nicolay Rusnachenko

cs.AI

Аннотация

В данной статье мы представляем задачу Dialogue Evaluation по извлечению структурированных мнений из русскоязычных новостных текстов. Цель конкурса заключается в извлечении кортежей мнений для заданного предложения; эти кортежи состоят из источника мнения, его объекта, выражения и настроения, направленного от источника к объекту. Всего на задачу было подано более 100 решений. Участники экспериментировали в основном с крупными языковыми моделями в форматах zero-shot, few-shot и тонкой настройки. Лучший результат на тестовом наборе данных был достигнут с использованием тонкой настройки крупной языковой модели. Мы также сравнили 30 промптов и 11 открытых языковых моделей с параметрами от 3 до 32 миллиардов в условиях 1-shot и 10-shot и определили лучшие модели и промпты.

English

In this paper, we introduce the Dialogue Evaluation shared task on extraction of structured opinions from Russian news texts. The task of the contest is to extract opinion tuples for a given sentence; the tuples are composed of a sentiment holder, its target, an expression and sentiment from the holder to the target. In total, the task received more than 100 submissions. The participants experimented mainly with large language models in zero-shot, few-shot and fine-tuning formats. The best result on the test set was obtained with fine-tuning of a large language model. We also compared 30 prompts and 11 open source language models with 3-32 billion parameters in the 1-shot and 10-shot settings and found the best models and prompts.