ROSE: интент-ориентированная метрика оценки для NL2SQL
ROSE: An Intent-Centered Evaluation Metric for NL2SQL
April 14, 2026
Авторы: Wenqi Pei, Shizheng Hou, Boyan Li, Han Chen, Zhichao Shi, Yuyu Luo
cs.AI
Аннотация
Точность выполнения (EX), широко используемый показатель для оценки эффективности решений преобразования естественного языка в SQL (NL2SQL), становится все менее надежным. Он чувствителен к синтаксическим вариациям, игнорирует возможность множественных интерпретаций вопросов и легко вводится в заблуждение ошибочными эталонными SQL-запросами. Для решения этой проблемы мы представляем ROSE — метрику, ориентированную на намерение, которая фокусируется на том, отвечает ли предсказанный SQL на вопрос, а не на соответствии эталонному SQL в рамках парадигмы, зависимой от ссылок. ROSE использует каскад «Доказывающий-Опровергающий»: SQL Prover оценивает семантическую корректность предсказанного SQL относительно намерения пользователя независимо, в то время как Adversarial Refuter использует эталонный SQL в качестве доказательства для оспаривания и уточнения этого суждения. На нашем валидационном наборе ROSE-VEC, согласованном с экспертами, ROSE демонстрирует наилучшее соответствие с оценками экспертов, превосходя следующий лучший показатель почти на 24% по Каппе Коэна. Мы также провели масштабную переоценку 19 методов NL2SQL, выявив четыре ценных инсайта. Мы публикуем ROSE и ROSE-VEC для содействия более надежным исследованиям в области NL2SQL.
English
Execution Accuracy (EX), the widely used metric for evaluating the effectiveness of Natural Language to SQL (NL2SQL) solutions, is becoming increasingly unreliable. It is sensitive to syntactic variation, ignores that questions may admit multiple interpretations, and is easily misled by erroneous ground-truth SQL. To address this, we introduce ROSE, an intent-centered metric that focuses on whether the predicted SQL answers the question, rather than consistency with the ground-truth SQL under the reference-dependent paradigm. ROSE employs an adversarial Prover-Refuter cascade: SQL Prover assesses the semantic correctness of a predicted SQL against the user's intent independently, while Adversarial Refuter uses the ground-truth SQL as evidence to challenge and refine this judgment. On our expert-aligned validation set ROSE-VEC, ROSE achieves the best agreement with human experts, outperforming the next-best metric by nearly 24% in Cohen's Kappa. We also conduct a largescale re-evaluation of 19 NL2SQL methods, revealing four valuable insights. We release ROSE and ROSE-VEC to facilitate more reliable NL2SQL research.