Feather-SQL: Un Marco Ligero NL2SQL con Paradigma de Colaboración de Doble Modelo para Modelos de Lenguaje Pequeños

Feather-SQL: A Lightweight NL2SQL Framework with Dual-Model Collaboration Paradigm for Small Language Models

March 22, 2025

Autores: Wenqi Pei, Hailing Xu, Hengyuan Zhao, Shizheng Hou, Han Chen, Zining Zhang, Pingyi Luo, Bingsheng He

cs.AI

Resumen

La conversión de Lenguaje Natural a SQL (NL2SQL) ha experimentado avances significativos con los modelos de lenguaje grandes (LLMs). Sin embargo, estos modelos suelen depender de sistemas de código cerrado y altos recursos computacionales, lo que plantea desafíos en la privacidad de los datos y su implementación. Por el contrario, los modelos de lenguaje pequeños (SLMs) tienen dificultades con las tareas de NL2SQL, mostrando un rendimiento deficiente e incompatibilidad con los marcos existentes. Para abordar estos problemas, presentamos Feather-SQL, un nuevo marco ligero diseñado específicamente para SLMs. Feather-SQL mejora la ejecutabilidad y precisión del SQL mediante 1) la poda y vinculación de esquemas, y 2) la generación de múltiples rutas y candidatos. Además, introducimos el Paradigma de Colaboración de Modelos 1+1, que combina un modelo de chat de propósito general potente con un especialista en SQL ajustado finamente, fusionando un razonamiento analítico sólido con una generación de SQL de alta precisión. Los resultados experimentales en BIRD demuestran que Feather-SQL mejora el rendimiento de NL2SQL en SLMs, con un aumento de aproximadamente el 10% para modelos sin ajuste fino. El paradigma propuesto eleva el límite de precisión de los SLMs al 54.76%, destacando su efectividad.

English

Natural Language to SQL (NL2SQL) has seen significant advancements with large language models (LLMs). However, these models often depend on closed-source systems and high computational resources, posing challenges in data privacy and deployment. In contrast, small language models (SLMs) struggle with NL2SQL tasks, exhibiting poor performance and incompatibility with existing frameworks. To address these issues, we introduce Feather-SQL, a new lightweight framework tailored for SLMs. Feather-SQL improves SQL executability and accuracy through 1) schema pruning and linking, 2) multi-path and multi-candidate generation. Additionally, we introduce the 1+1 Model Collaboration Paradigm, which pairs a strong general-purpose chat model with a fine-tuned SQL specialist, combining strong analytical reasoning with high-precision SQL generation. Experimental results on BIRD demonstrate that Feather-SQL improves NL2SQL performance on SLMs, with around 10% boost for models without fine-tuning. The proposed paradigm raises the accuracy ceiling of SLMs to 54.76%, highlighting its effectiveness.