KV 缓存驱逐下的发散时序和累积不一致

KV 缓存驱逐扰乱了控制自回归生成的条件词元分布。我们研究首次分歧时机和随后的词元不匹配如何确定累积分歧。我们在指定的逐步最大耦合下得出精确分解：预期失配分数等于首次失配贡献加上发散后暴露乘以其失配率。无限制自回归核对的显式构造实现了与有限散度对齐观察窗口兼容的风险尖锐区间。残差分支条件蒙特卡罗提供了对出现、占用和窗口/尾部贡献的无偏联合估计，并且每个重复的方差占总词元损失的主导地位。 Meta-Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 的完整轨迹表明，50% 保留率的 SnapKV 比 SnapKV-512 或具有相同 50% 提示缓存预算的最近词元保留更晚且更少出现分歧，而分歧后总变异 (TV) 仍然很高。在对 288 份文件进行的探索性分析中，分歧后风险敞口占四个总错配缺口的 85-90%。在保留率为 90% 的 288 个独立文档中，预先指定的比较显示，在两个模型中，后期的分支对齐 TV 高于早期窗口。