通过形式化抽象提升资源受限语言模型的自然语言组合优化准确率

组合调度对语言模型构成重大挑战：它要求在指数级大的搜索空间中找到可行解，同时满足复杂约束。这一挑战在资源受限场景下尤为突出——更大的语言模型不切实际，可选的较小模型在直接从自然语言调度时往往无法保持可行性。为解决这些局限，我们提出SDDL，一个神经符号框架，它把自然语言调度问题翻译成任务、资源、约束和目标的紧凑的、与求解器对齐的表示，同时把底层建模和搜索交给确定性编译器和外部求解器。在一个300实例、多族群调度问题子集上，SDDL提升了所有受测资源受限模型的独立验证可行率。两个最强的SDDL配置达到55.3%和28.3%，而直接生成基线分别为23.7%和1.3%，求解器代码基线分别为21.7%和7.0%，且可行调度上的最优性差距中位数为0.0%。通过表达问题结构而非生成解或求解器代码，SDDL使较小的模型能够接近最强的直接生成与求解器代码配置，包括规模大得多的前沿模型。