论文

ZAS-SQL:从零样本文本到 SQL 的失败中提取规则

ZAS-SQL: Distilling Rules from Failures for Zero-Shot Text-to-SQL

模型推理推理策略与问题分解

摘要

文本到 SQL 将自然语言转换为可执行的 SQL 查询。基于 大语言模型 (LLM) 构建的少样本上下文学习方法实现了强大的性能,但它们对演示的依赖限制了跨域泛化并消耗了大量的上下文窗口空间。 Existing zero-shot methods, lacking effective generation constraints, still fall short of few-shot approaches.我们观察到零样本文本到 SQL 中的 LLM 失败不是随机的,而是表现出系统性、重复出现的模式。基于这一观察,我们提出了一个完全零样本的文本到 SQL 框架,该框架通过基于 Map-Reduce 的规则 蒸馏 管道从失败案例中提取核心生成规则,并通过三个补充模块提高生成质量:知识增强模式表示,补充数据定义语言中缺失的语义; a rule-driven structured reasoning framework that suppresses structural deviations;执行引导提前停止,可实现低成本的自我纠正。在 Spider 上,所提出的框架在开发集和测试集上分别实现了高达 87.2% 和 88.6% 的执行精度,建立了新的零样本最先进技术,并超越了基于 GPT-4/4o 构建的多个少样本和 微调 方法。在特定领域的数据集 UrbanPlan 上,它达到了 81.3%,证实了规则 蒸馏 方法可以跨领域推广。此外,当配备4B参数模型时,该框架超越了领先闭源模型的零样本基线,展示了强大的模型通用性。