AgenticDataBench: Всесторонний бенчмарк для агентов данных

Аннотация

Наука о данных направлена на извлечение практических выводов из разнородных необработанных данных, раскрывая ценность огромных объемов информации, генерируемой в современном обществе. Автоматизация этого процесса необходима для снижения трудоемких усилий специалистов по данным и обеспечения масштабируемых приложений, основанных на данных. В последнее время агенты данных на основе больших языковых моделей (LLM) стали перспективным решением для автоматизации рабочих процессов в науке о данных. Однако в данной области отсутствуют всеобъемлющие тестовые наборы (бенчмарки) для строгой оценки этих агентов в различных сценариях с высокой степенью детализации. Для устранения этого пробела мы предлагаем AgenticDataBench — комплексный бенчмарк, включающий реалистичные задачи из различных областей с детальными эталонными метками. Это позволяет проводить оценку, учитывающую разнообразие и сложность рабочих процессов в науке о данных, а также детальную производительность агентов. Во-первых, для охвата различных доменов мы собрали реальные наборы данных и задачи из 15 вертикальных областей, включая 5 реальных B2B-кейсов от ведущей fintech-компании. Во-вторых, чтобы устранить избыточность в реальных задачах и сгенерировать высококачественные задачи для доменов, где не хватает реальных данных, мы вводим понятие навыков науки о данных — повторяющихся шаблонов операций, ориентированных на данные, — и количественно оцениваем покрытие бенчмарка по числу включенных навыков. Репрезентативные навыки извлекаются из крупномасштабных решений задач на Stack Overflow с использованием иерархической кластеризации с выравниванием по навыкам. В-третьих, для реальных бизнес-задач мы отбираем пары «задача–решение», которые максимизируют разнообразие состава навыков, обеспечивая широкий охват практических сценариев. В-четвертых, для генерации реалистичных задач в выдуманных доменах, не имеющих реальных задач, мы предлагаем систематический подход к генерации задач на основе LLM, создавая рабочие процессы и задачи на основе этих навыков. Наконец, мы оцениваем современные агенты данных с помощью нашего аннотированного бенчмарка и выложенного в открытый доступ тестового стенда, предоставляя детальные выводы на уровне навыков.

English

Data science aims to derive actionable insights from heterogeneous raw data, unlocking the value of the massive amounts of data generated in modern society. Automating this process is essential to reducing labor-intensive efforts for data scientists and enabling scalable data-driven applications. Recently, large language model (LLM)-based data agents have emerged as a promising solution to automate data science workflows. However, the field lacks comprehensive benchmarks to rigorously evaluate these agents across diverse scenarios with fine-grained granularity. To address this gap, we propose AgenticDataBench, a comprehensive benchmark featuring realistic tasks spanning diverse domains with fine-grained ground-truth labels. This enables evaluations to capture the diversity and complexity of data science workflows and the detailed performance of agents. First, to cover diverse domains, we collect real datasets and tasks from 15 vertical domains, including 5 real-world B2B use cases from a leading fintech company. Second, to remove redundancy in real-world tasks and generate high-quality tasks for domains lacking real data, we introduce data science skills, recurring data-centric operational patterns, and quantify benchmark coverage by the number of skills included. Representative skills are extracted from large-scale task solutions on Stack Overflow using skill-aligned hierarchical clustering. Third, for real-world business tasks, we select task-solution pairs that maximize diversity in skill composition, ensuring broad coverage of practical scenarios. Fourth, to generate realistic tasks for devise domains without real tasks, we propose a systematic LLM-based task generation approach to create workflows and tasks based on these skills. Finally, we evaluate state-of-the-art data agents using our annotated benchmark and open-sourced testbed, providing detailed skill-level insights.