论文
重复出现的问题的可靠答案:通过模板约束解码提高文本到 SQL 的准确性
Reliable Answers for Recurring Questions: Boosting Text-to-SQL Accuracy with Template Constrained Decoding
摘要
大语言模型 (LLM) 彻底改变了文本到 SQL 的生成方式,使用户能够越来越轻松地使用自然语言查询结构化数据。然而,由于准确性不一致以及生成无效 SQL 的风险,实际部署仍然具有挑战性,尤其是在复杂或看不见的模式中。我们引入了模板约束解码 (TeCoD),该系统通过利用标记工作负载中查询模式的重现来解决这些限制。 TeCoD 将历史 NL-SQL 对转换为可重用模板,并引入了强大的模板选择模块,该模块使用经过微调的自然语言推理模型来有效匹配或拒绝查询。选择模板后,TeCoD 在 SQL 生成过程中通过语法约束解码强制执行该模板,并通过确保语法有效性和效率的新颖分区策略实现。这些组件的执行精度比上下文学习 (ICL) 高出 36%,并且匹配查询的延迟降低了 2.2 倍。