DLM-SWAI：在扩散语言模型揭开面纱之前对其进行引导

将语言模型生成引导到所需的文本属性对于实际部署至关重要，并且推理时间方法特别有吸引力，因为它们无需重新训练即可实现可控生成。最近的工作还强调扩散语言模型是一种具有独特解码属性的新兴生成范式。然而，大多数现有的引导方法要么依赖于辅助模型，要么是为自回归下一个词元解码而设计的，这使得它们很难应用于扩散语言模型 DLM，后者通过部分屏蔽序列的迭代去噪来生成文本。因此，我们提出了 DLM-SWAI，这是一种简单的 无需训练 控制方法，它使用预先计算的 词元级 风格分数来偏置每个去噪步骤的标记分布。风格和安全控制任务的实验表明，DLM-SWAI 可以有效地引导扩散语言模型，同时保持生成质量并需要最小的计算开销。消融进一步揭示了转向强度和流畅性之间的可控权衡，并且我们的分析将类明智的转向性与 词元级 属性提示的强度联系起来。