ROSE: Eine intentionszentrierte Evaluierungsmetrik für NL2SQL
ROSE: An Intent-Centered Evaluation Metric for NL2SQL
April 14, 2026
Autoren: Wenqi Pei, Shizheng Hou, Boyan Li, Han Chen, Zhichao Shi, Yuyu Luo
cs.AI
Zusammenfassung
Die Exaktionsgenauigkeit (Execution Accuracy, EX), das weit verbreitete Maß zur Bewertung der Effektivität von Lösungen für Natural Language to SQL (NL2SQL), wird zunehmend unzuverlässig. Sie ist anfällig für syntaktische Variationen, ignoriert die Tatsache, dass Fragen mehrere Interpretationen zulassen können und lässt sich leicht durch fehlerhafte Ground-Truth-SQL-Abfragen in die Irre führen. Um dieses Problem zu adressieren, führen wir ROSE ein, eine intent-zentrierte Metrik, die darauf abzielt, ob die vorhergesagte SQL-Abfrage die Frage beantwortet, anstatt Übereinstimmung mit der Ground-Truth-SQL unter dem referenzabhängigen Paradigma zu fordern. ROSE verwendet eine adversarielle Prover-Refuter-Kaskade: Ein SQL-Prover bewertet die semantische Korrektheit einer vorhergesagten SQL-Abfrage in Bezug auf die Benutzerabsicht unabhängig, während ein Adversarial Refuter die Ground-Truth-SQL als Beweismittel nutzt, um dieses Urteil herauszufordern und zu verfeinern. Auf unserem expertenabgestimmten Validierungssatz ROSE-VEC erreicht ROSE die beste Übereinstimmung mit menschlichen Experten und übertrifft die nächstbeste Metrik um fast 24 % im Cohen's Kappa. Wir führen zudem eine großangelegte Neubewertung von 19 NL2SQL-Methoden durch, die vier wertvolle Erkenntnisse liefert. Wir veröffentlichen ROSE und ROSE-VEC, um zuverlässigere NL2SQL-Forschung zu ermöglichen.
English
Execution Accuracy (EX), the widely used metric for evaluating the effectiveness of Natural Language to SQL (NL2SQL) solutions, is becoming increasingly unreliable. It is sensitive to syntactic variation, ignores that questions may admit multiple interpretations, and is easily misled by erroneous ground-truth SQL. To address this, we introduce ROSE, an intent-centered metric that focuses on whether the predicted SQL answers the question, rather than consistency with the ground-truth SQL under the reference-dependent paradigm. ROSE employs an adversarial Prover-Refuter cascade: SQL Prover assesses the semantic correctness of a predicted SQL against the user's intent independently, while Adversarial Refuter uses the ground-truth SQL as evidence to challenge and refine this judgment. On our expert-aligned validation set ROSE-VEC, ROSE achieves the best agreement with human experts, outperforming the next-best metric by nearly 24% in Cohen's Kappa. We also conduct a largescale re-evaluation of 19 NL2SQL methods, revealing four valuable insights. We release ROSE and ROSE-VEC to facilitate more reliable NL2SQL research.