约束感知训练：将解码规则外化到训练目标

语言模型生成程序时，受约束解码可利用程序分析，排除违反语法、作用域或类型规则的词元。但这里存在重复：标准训练已教会模型压低这些分析会拒绝的词元。由此产生一个问题：既然推断时无论如何都会进行分析并过滤一组词元，能否在训练时不再教模型这项分析，这种外化是否会得到更高效的模型？本文定义满足这一外化要求的一般约束感知目标，并将外化的收益形式化为关于模型大小和数据效率的三个具体定理。受控合成实验表明，这些定理的效果在训练动力学下仍然存在：在参数量与数据匹配时，约束感知训练比普通交叉熵训练取得更低的预测损失。这为将生成时使用的分析纳入训练目标提供了依据。