论文
DualSQL:具有多代理强化学习的文本到 SQL
DualSQL: Text-to-SQL with Multi-Agent Reinforcement Learning
摘要
最先进的文本到 SQL 系统通常是围绕两个基本任务的多代理管道:模式链接和 SQL 生成。然而,现有的工作为每个任务训练单独的模型,未能利用这些相互关联的任务之间的协同作用。在这项工作中,我们提出了 DualSQL,这是一种新的文本到 SQL 系统,由两个由单一模型主干驱动的代理组成。这些代理共享相同的模型权重和代理支架,通过强大的多代理强化学习 (RL) 框架实现联合优化。我们设计了三种数据库访问工具,以促进基于与数据库交互的有效多步骤推理。为了改进训练并避免模型崩溃,我们引入了一套可稳定多智能体强化学习训练的 rollout 护栏机制,支持 DualSQL 在训练过程中不断改进。我们还引入了一个新的 SQL 正确性指标,即鲁棒执行匹配(REX),以更准确地判断 SQL 正确性并分配奖励信号。仅经过 3755 个示例的训练,DualSQL-4B 在 BIRD 开发集上就实现了令人印象深刻的 68.0% 执行精度,与之前的 7B 模型相匹配。 DualSQL-8B 进一步提升至 71.1%,优于之前具有 32B 参数的最先进的单模型解决方案。这些结果证明了联合多智能体强化学习在构建高性能文本到 SQL 管道方面的优势。