QuantCode 模型:可执行算法交易代码的专用语言模型
QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code
摘要
大语言模型是强大的通用代码生成器,但可执行的算法交易仍然是一个要求严格的专业化目标:模型必须将自然语言策略规范转换为专门交易框架的正确程序逻辑,执行历史数据,生成交易,并在语义上保持对请求的忠实。我们研究了针对此设置的专门语言模型的两种互补机制:对算法交易框架代码的持续预训练和对Agent验证的请求到代码对的监督微调(SFT)。评估以 QuantCode-Bench 为中心,这是我们用于 Backtrader 策略生成的 400 项任务基准,以及存储库级 SWE 基准测试。持续的预训练将 Qwen3.5-397B-A17B 的单轮判断通过率从 41.5% 提高到 47.5%,将 Qwen3.6-35B-A3B 从 27.8% 提高到 33.0%。继续预训练后应用 SFT,Qwen3.6-35B-A3B 获得了更大的增益,达到 58.2% 的评审通过率和 83.5% 的成功回测;在 Agentic 评估中,它将首轮成功率从 22.3% 提高到 58.3%,最多 10 轮后的最终成功率从 47.5% 提高到 79.5%。单独持续预训练可以提高 Agentic 的首轮成功率,但修复后的最终成功率从 47.5% 降低到 32.5%,与降级的指令遵循一致,而 SFT 则可以提高两者。我们还发现了一个功能保留失败:域专业化降低了符合解析器的结构化工具调用的性能,并且有针对性的恢复 SFT 恢复了工具调用格式,但不恢复基本检查点的存储库级Agent性能。结果表明,面向框架的预训练、经过验证的 SFT 和显式的能力保留评估可解决特定领域的可执行代码生成中的不同故障模式。