论文
Learn2Zinc:用于 MiniZinc 中文本到模型翻译的 微调 小语言模型
Learn2Zinc: Fine-tuning Small Language Models for Text-to-Model Translation in MiniZinc
摘要
大语言模型 擅长主流编程语言的代码生成,但难以处理罕见的特定领域语言,例如 MiniZinc(一种用于组合问题的约束建模语言)。我们研究目标 微调 是否可以教授小语言模型(0.6B 到 20B 参数),以从自然语言问题描述生成语法正确且语义有效的 MiniZinc 模型。我们的主要发现是,在使用这种领域特定语言时,语法错误在失败中占主导地位:Qwen3、LLaMa、Gemma 和 GPT-OSS 等小型语言模型的开箱即用执行准确性接近于零。我们提出了一种跨模型错误引导方法,该方法从多个 LLM 运行中收集语法错误,并利用这些错误来组织纠错训练数据集。该数据集允许我们微调小型语言模型,从而持续改进所有模型大小的直接代码生成和思想链方法。通过自我反思和集成,我们的方法实现了高达 98% 的执行精度。与此同时,解决方案的准确性仍然保持在 35%,这表明虽然语法是可以学习的,但约束推理仍然是一个挑战。我们将 微调 管道、数据集和模型贡献给开源,以进一步研究文本到模型的翻译。