论文
后验细化:通过任意顺序流程图快速生成语言
Posterior Refinement: Fast Language Generation via Any-Order Flow Maps
摘要
非自回归生成为迭代细化提供了强大的范例,允许模型递归地批判、删除和重新生成词元的任意子集。然而,现有的非自回归模型未能实现这种潜力。掩蔽扩散模型 (MDM) 会出现因式分解错误,导致在同时生成多个标记时样本质量崩溃。流图语言模型 (FMLM) 通过联合序列传输来实现出色的少步生成,从而规避了这一瓶颈,但牺牲了 MDM 的推理时间灵活性。我们引入了 FMLM+,这是一个通过为 FMLM 配备掩蔽式噪声计划来弥补这一差距的框架。在一步生成完整序列的同时,FMLM+ 同时对每个标记的全局一致性进行后验评分。我们利用这一点引入了 Postterior Refinement,这是一种新颖的推理时间细化策略,使模型能够自适应地自我修正其输出,将离散基线的性能与减少 32 倍的 NFE 相匹配。在不同的基准测试中,我们证明了具有后验优化功能的 FMLM+ 相对于 MDM 和 FMLM 系列提高了速度与质量的权衡,为高保真语言建模提供了可扩展的基础。