论文

SPOC-SQL:可控文本到 SQL 的分阶段偏好优化

SPOC-SQL: Stage-wise Preference Optimization for Controllable Text-to-SQL

模型训练偏好优化

摘要

Text-to-SQL 旨在将自然语言问题转换为关系数据库上的可执行 SQL 查询,需要对数据库模式和查询约束进行多阶段结构化推理。然而,现有方法将此任务视为单步生成,其中模型优化整个 SQL 序列,而没有在关键决策点有针对性的反馈,并且缺乏对中间生成过程交互和控制的支持。为了解决这个问题,我们提出了 SPOC-SQL,它将 Text-to-SQL 分解为遵循标准 SQL 执行逻辑的四个连续子任务,并为模型设计特定阶段的优化策略以学习关键决策。具体来说,我们建议在跨 SQL 阶段的关键决策点实施细粒度偏好优化,目的是增强查询构建过程中的结构化决策。此外,还设计了结构化分解策略,通过显式中间表示促进阶段性干预和纠正。这会导致 SQL 生成更加可控和可靠。实验表明,结合阶段性人类知识可以持续提高性能,验证阶段感知可控生成的有效性。