论文

内部模式:大规模高效文本到 SQL 的两阶段 微调 方法

Schema on the Inside: A Two-Phase Fine-Tuning Method for High-Efficiency Text-to-SQL at Scale

模型训练监督微调与指令调优

摘要

将基于 API 的大型专有语言模型应用于文本到 SQL 任务带来了重大的行业挑战:依赖大量模式密集的提示会导致每个词元 API 成本过高且延迟较高,从而阻碍可扩展的生产部署。我们提出了一个专门的、自托管的 8B 参数模型,专为 CriQ 中的对话机器人而设计,CriQ 是 Dream11 的姐妹应用程序,Dream11 是印度最大的梦幻体育平台,拥有超过 2.5 亿用户,可以回答用户有关板球统计数据的查询。我们新颖的两阶段监督 微调 方法使模型能够内化整个数据库模式,从而无需长上下文提示。这将输入词元减少了 99% 以上,从 17k 词元基线减少到不到 100 个,并用高效的本地推理取代了昂贵的外部 API 调用。由此产生的系统实现了 98.4% 的执行成功率和 92.5% 的语义准确性,大大优于使用 Google Gemini Flash 2.0 的提示设计基线(95.6% 的执行率,89.4% 的语义准确性)。这些结果展示了在大规模生产环境中使用领域专用、自托管语言模型实现高精度、低延迟文本到 SQL 应用程序的实用路径。