ROSE: Uma Métrica de Avaliação Centrada em Intenção para NL2SQL
ROSE: An Intent-Centered Evaluation Metric for NL2SQL
April 14, 2026
Autores: Wenqi Pei, Shizheng Hou, Boyan Li, Han Chen, Zhichao Shi, Yuyu Luo
cs.AI
Resumo
A Acurácia de Execução (EX), a métrica amplamente utilizada para avaliar a eficácia de soluções de Conversão de Linguagem Natural para SQL (NL2SQL), está se tornando cada vez menos confiável. Ela é sensível a variações sintáticas, ignora que as perguntas podem admitir múltiplas interpretações e é facilmente induzida a erro por SQL de referência (ground-truth) incorreto. Para resolver isso, introduzimos a ROSE, uma métrica centrada na intenção que se concentra em saber se o SQL previsto responde à pergunta, em vez da consistência com o SQL de referência sob o paradigma dependente de referência. A ROSE emprega uma cascata adversarial de Provador-Refutador: o Provador de SQL avalia a correção semântica de um SQL previsto em relação à intenção do usuário de forma independente, enquanto o Refutador Adversarial usa o SQL de referência como evidência para desafiar e refinar esse julgamento. No nosso conjunto de validação alinhado por especialistas, ROSE-VEC, a ROSE alcança o melhor acordo com especialistas humanos, superando a próxima melhor métrica em quase 24% no Kappa de Cohen. Também realizamos uma reavaliação em larga escala de 19 métodos NL2SQL, revelando quatro insights valiosos. Disponibilizamos a ROSE e o ROSE-VEC para facilitar uma pesquisa NL2SQL mais confiável.
English
Execution Accuracy (EX), the widely used metric for evaluating the effectiveness of Natural Language to SQL (NL2SQL) solutions, is becoming increasingly unreliable. It is sensitive to syntactic variation, ignores that questions may admit multiple interpretations, and is easily misled by erroneous ground-truth SQL. To address this, we introduce ROSE, an intent-centered metric that focuses on whether the predicted SQL answers the question, rather than consistency with the ground-truth SQL under the reference-dependent paradigm. ROSE employs an adversarial Prover-Refuter cascade: SQL Prover assesses the semantic correctness of a predicted SQL against the user's intent independently, while Adversarial Refuter uses the ground-truth SQL as evidence to challenge and refine this judgment. On our expert-aligned validation set ROSE-VEC, ROSE achieves the best agreement with human experts, outperforming the next-best metric by nearly 24% in Cohen's Kappa. We also conduct a largescale re-evaluation of 19 NL2SQL methods, revealing four valuable insights. We release ROSE and ROSE-VEC to facilitate more reliable NL2SQL research.