论文

通过自适应校正调度对生成采样实施约束

Enforcing Constraints in Generative Sampling via Adaptive Correction Scheduling

模型推理解码与生成控制

摘要

生成采样中的硬约束通常通过投影来强制执行,在采样结束时或每次更新后应用一次。这种二进制框架忽略了一个基本问题:投影改变了未来更新所依赖的状态分布。因此,即使在最终投影之后,延迟投影也可以产生可行但与预期采样动态不一致的样本。我们将约束执行形式化为生成部署上的修正调度问题。使用单步约束缺陷作为几何失配的局部信号,我们引入了自适应校正调度,这是一种状态相关的策略,它将投影预算分配给最强烈扰动轨迹的步骤。终端投影和逐步投影是该族的限制情况。通过受控的流形采样轨迹和学习的投影扩散采样器,自适应调度在匹配的投影预算下提高了成本精度边界,恢复了 71.2% 的全部逐步收益,同时减少了 75% 的校正。这些结果表明,约束时序是生成采样中的一流设计变量,并且仅强制执行可行性不足以保持预期的约束采样动态。