UniVer：多步骤和多草案的统一视角 推测解码

推测解码 通过先草稿后验证来加速 大语言模型，其中验证可以被视为最佳传输 (OT) 问题。现有方法通常单独处理多草稿和多步骤方面，将平面 OT 应用于单步骤草稿，或将每个词元拒绝采样应用于树结构候选。这种分离使得联合机制（多步依赖满足多草稿分支）优化不佳，因为局部验证规则无法利用候选树的水平和垂直维度之间的耦合。在本文中，我们提出了一个统一的视角，将基于树的验证视为一个条件 OT 问题。我们的主要见解是，可以通过前缀接受概率来抽象垂直依赖性，前缀接受概率充当动态缩放因子来主动指导水平草稿选择。基于这一原理，我们引入了UniVer，一种通过在前缀约束下组成局部最优传输计划来跨树级别联合优化的验证算法。我们证明 UniVer 在所提出的条件框架下保持无损并达到最佳接受率。跨不同任务和模型的大量实验表明，UniVer 比标准递归拒绝采样（无需替换）将接受长度提高了 4.2% 至 8.5%，同时保持与目标模型的精确分布对齐。