论文
用内存代替训练:文本转 SQL 的列表选择
Replacing Training with Memory: Listwise Selection for Text-to-SQL
摘要
现代文本到 SQL 系统通常遵循生成-执行-选择管道,生成多个候选查询,然后选择最佳的一个。通过联合比较多个候选者的列表选择已被广泛采用,但 微调 列表选择器成本高昂。因此,我们提出了一个无 微调 的列表选择器。我们用推理时间策略替换了两个主要的 微调 目标:(1)学习选择标准作为排序;(2)减轻位置偏差。首先,我们构建可重用的结构化记忆,而不是学习选择行为作为模型参数。给定一个问题,MaP-SQL 检索从训练数据中提取的记忆,这些记忆对自然语言如何映射到模式元素、SQL 操作和预期输出进行编码。这些记忆作为以列表方式评估候选人的明确决策标准。其次,为了减轻列表选择器的排序偏差,我们汇总了多个输入排列的排名,并通过执行结果和逐点评分优化了推理成本。我们的方法提高了选择准确性,同时保持了效率以及与现有 大语言模型 的兼容性。在文本到 SQL 基准测试中,与现有方法相比,它可以在没有 微调 的情况下产生更稳定的选择,并且减少不必要的比较。在 BIRD-dev 上,使用相同的候选集,它比之前最先进的基于选择器的方法 R^3-SQL 平均执行精度高 2.02 点,标记数量减少了 2.92 倍。