论文

PathRelax:并行路径松弛推测雅可比解码,用于加速自回归文本到图像的生成

PathRelax: Parallel-Path Relaxed Speculative Jacobi Decoding for Accelerating Auto-Regressive Text-to-Image Generation

模型推理投机采样

摘要

自回归文本到图像模型中对高分辨率图像生成的需求不断增长,导致了词元序列的扩展,从而显着增加了计算成本和推理时间。然而,现有的用于加速自回归文本到图像模型的最先进方法依赖于链式结构的草稿词元序列,导致草稿词元搜索效率低下和接受长度有限。为了解决这个问题,我们提出了并行路径交叉松弛推测雅可比解码(\textbf{PathSpec}),这是一种通过多序列草案树结构提高效率的新颖框架。我们的并行路径推测雅可比解码(\textbf{PathExplore})扩展了标记搜索空间,在不牺牲图像质量的情况下实现了更高的加速比。此外,我们引入了跨路径宽松验证(\textbf{PathRelax}),它利用跨序列的语义相似性来进一步提高词元接受率。在 Parti-Prompts、MSCOCO2017 和 T2ICompBench 数据集上进行评估,我们的方法分别实现了 4.14 $\times$、3.95$\times$ 和 4.18$\times$ 的加速比。值得注意的是,在没有任何松弛采样的情况下,PathExplore 在加速比方面优于 GSD 和 LANTERN 等松弛采样方法。此外,PathRelax的松弛机制可以与其他松弛技术无缝集成,从而实现进一步加速并为实时文本到图像生成提供有效的解决方案。我们的代码可在 https://github.com/Haodong-Lei-Ray/PathSpec 获取。