ROSE: Una Métrica de Evaluación Centrada en la Intención para NL2SQL
ROSE: An Intent-Centered Evaluation Metric for NL2SQL
April 14, 2026
Autores: Wenqi Pei, Shizheng Hou, Boyan Li, Han Chen, Zhichao Shi, Yuyu Luo
cs.AI
Resumen
La Precisión de Ejecución (EX), la métrica ampliamente utilizada para evaluar la efectividad de las soluciones de Conversión de Lenguaje Natural a SQL (NL2SQL), se está volviendo cada vez menos confiable. Es sensible a la variación sintáctica, ignora que las preguntas pueden admitir múltiples interpretaciones y se deja engañar fácilmente por SQL de referencia erróneo. Para abordar esto, presentamos ROSE, una métrica centrada en la intención que se enfoca en si el SQL predicho responde a la pregunta, en lugar de la consistencia con el SQL de referencia bajo el paradigma dependiente de la referencia. ROSE emplea una cascada adversarial de Probador-Refutador: el Probador de SQL evalúa la corrección semántica de un SQL predicho contra la intención del usuario de forma independiente, mientras que el Refutador Adversarial utiliza el SQL de referencia como evidencia para desafiar y refinar este juicio. En nuestro conjunto de validación alineado con expertos ROSE-VEC, ROSE logra la mejor concordancia con expertos humanos, superando a la siguiente mejor métrica en casi un 24% en Kappa de Cohen. También realizamos una reevaluación a gran escala de 19 métodos NL2SQL, revelando cuatro hallazgos valiosos. Liberamos ROSE y ROSE-VEC para facilitar una investigación NL2SQL más confiable.
English
Execution Accuracy (EX), the widely used metric for evaluating the effectiveness of Natural Language to SQL (NL2SQL) solutions, is becoming increasingly unreliable. It is sensitive to syntactic variation, ignores that questions may admit multiple interpretations, and is easily misled by erroneous ground-truth SQL. To address this, we introduce ROSE, an intent-centered metric that focuses on whether the predicted SQL answers the question, rather than consistency with the ground-truth SQL under the reference-dependent paradigm. ROSE employs an adversarial Prover-Refuter cascade: SQL Prover assesses the semantic correctness of a predicted SQL against the user's intent independently, while Adversarial Refuter uses the ground-truth SQL as evidence to challenge and refine this judgment. On our expert-aligned validation set ROSE-VEC, ROSE achieves the best agreement with human experts, outperforming the next-best metric by nearly 24% in Cohen's Kappa. We also conduct a largescale re-evaluation of 19 NL2SQL methods, revealing four valuable insights. We release ROSE and ROSE-VEC to facilitate more reliable NL2SQL research.