论文
SJD-VP：用于自回归图像生成的带有验证预测的推测雅可比解码
SJD-VP: Speculative Jacobi Decoding with Verification Prediction for Autoregressive Image Generation
摘要
推测雅可比解码 (SJD) 已成为加速自回归图像生成的一种有前途的方法。尽管具有潜力，但现有的 SJD 方法经常因词元选择的模糊性而遭受投机词元接受率低的问题。最近的工作试图主要从宽松的词元验证角度来缓解这个问题，但未能充分利用解码的迭代动态。在本文中，我们进行了深入分析并做出了一个新颖的观察：概率增加的词元更有可能匹配验证接受且正确的词元。基于此，我们提出了一种新颖的带有验证预测的推测雅可比解码（SJD-VP）。关键思想是利用迭代中词元概率的变化来指导采样，有利于概率增加的词元。这有效地预测了哪些词元可能通过后续验证，从而提高了接受率。特别是，我们的 SJD-VP 是即插即用的，可以无缝集成到现有的 SJD 方法中。对标准基准的大量实验表明，我们的 SJD-VP 方法始终如一地加速自回归解码，同时提高图像生成质量。