论文
CA-SQL:通过探索和计算预算分配对文本到 SQL 进行复杂性感知推理时间推理
CA-SQL: Complexity-Aware Inference Time Reasoning for Text-to-SQL via Exploration and Compute Budget Allocation
摘要
虽然推理时间学习的最新进展改进了文本到 SQL 任务的 LLM 推理,但当前的解决方案仍然难以在 Bird-Bench (BIRD) 基准测试中最具挑战性的任务上表现良好。这是由于解决方案空间探索不充分,而解决方案空间探索对于发现有希望的候选查询是必要的,这些候选查询可以进一步细化以产生正确的输出。为了应对这一挑战,我们引入了 CA-SQL,这是一种新颖的文本到 SQL 管道,它利用任务的估计难度来动态扩展生成候选解决方案的探索广度。此外,我们使用基于进化搜索原理的自定义提示播种方法,进一步从基础 LLM 中引发探索行为,并使用新颖的投票方法在搜索结束时选择最佳候选解决方案。实验表明,我们的解决方案仅使用 GPT-4o-mini,在 BIRD 开发集问题的“挑战性”层上取得了 51.72% 的最先进分数,优于其他上下文学习方法,甚至是那些利用更大模型的方法。总体而言,我们的方法在 BIRD 开发数据集上获得了具有竞争力的 61.06% 执行精度和 68.77% Soft F1 分数。