ROSE: Een intentiegerichte evaluatiemetriek voor NL2SQL
ROSE: An Intent-Centered Evaluation Metric for NL2SQL
April 14, 2026
Auteurs: Wenqi Pei, Shizheng Hou, Boyan Li, Han Chen, Zhichao Shi, Yuyu Luo
cs.AI
Samenvatting
Execution Accuracy (EX), de veelgebruikte maatstaf voor het evalueren van de effectiviteit van Natural Language to SQL (NL2SQL)-oplossingen, wordt steeds onbetrouwbaarder. De meting is gevoelig voor syntactische variatie, negeert dat vragen meerdere interpretaties kunnen toelaten, en wordt gemakkelijk misleid door foutieve ground-truth SQL. Om dit aan te pakken, introduceren we ROSE, een intentiegerichte maatstaf die zich richt op de vraag of de voorspelde SQL de vraag beantwoordt, in plaats van op consistentie met de ground-truth SQL onder het referentie-afhankelijke paradigma. ROSE gebruikt een adversariaal Prover-Refuter-cascade: SQL Prover beoordeelt de semantische correctheid van een voorspelde SQL onafhankelijk tegenover de intentie van de gebruiker, terwijl Adversarial Refuter de ground-truth SQL als bewijs gebruikt om dit oordeel uit te dagen en te verfijnen. Op onze door experts gealigneerde validatieset ROSE-VEC bereikt ROSE de beste overeenstemming met menselijke experts en presteert daarbij bijna 24% beter in Cohen's Kappa dan de op een na beste meting. We voeren ook een grootschalige herevaluatie uit van 19 NL2SQL-methoden, wat vier waardevolle inzichten oplevert. We maken ROSE en ROSE-VEC vrij beschikbaar om betrouwbaarder NL2SQL-onderzoek te faciliteren.
English
Execution Accuracy (EX), the widely used metric for evaluating the effectiveness of Natural Language to SQL (NL2SQL) solutions, is becoming increasingly unreliable. It is sensitive to syntactic variation, ignores that questions may admit multiple interpretations, and is easily misled by erroneous ground-truth SQL. To address this, we introduce ROSE, an intent-centered metric that focuses on whether the predicted SQL answers the question, rather than consistency with the ground-truth SQL under the reference-dependent paradigm. ROSE employs an adversarial Prover-Refuter cascade: SQL Prover assesses the semantic correctness of a predicted SQL against the user's intent independently, while Adversarial Refuter uses the ground-truth SQL as evidence to challenge and refine this judgment. On our expert-aligned validation set ROSE-VEC, ROSE achieves the best agreement with human experts, outperforming the next-best metric by nearly 24% in Cohen's Kappa. We also conduct a largescale re-evaluation of 19 NL2SQL methods, revealing four valuable insights. We release ROSE and ROSE-VEC to facilitate more reliable NL2SQL research.