KV 缓存的阶段重播发散：固定前缀精度控制和双向缓存移植

阶段重播诊断重建中间词元前缀，并将新鲜预填充延续视为最初到达前缀的解码器状态的延续。我们在 Qwen2.5 派生系统的整个推理阶段边界上审核该假设。一项匹配的 200 项实验将保留的实时缓存与相同整数标记的一次性预填充进行比较，并在两侧放置一个精确的副本。在 BF16 中，副本保持精确，但结构在 166 个后缀和 20 个正确性标签上有所不同；准确度差异仅一分（配对 95% CI [-3.5, +5.5]）。固定前缀 2x2 保持所有 200 个词元状态不变，同时跨越结构和精度。 BF16 分歧再次出现，而 FP32 不产生解码分歧（95% Wilson 上限 1.88%）。预期的桥接器在 12/12 行上逐个词元增量并保留实时缓存；全部 200 个保存的账本审计可重现每个保留的轨迹和比较指纹。所有 48 个键/值层的双向移植使得每个测试的发散延续都遵循其缓存供体，无论是在主检查点 (24/24) 的选定集上还是在后续检查点 (43/43) 的结果盲复制上。因此，精确词元重放可以在不保持实时状态保真度的情况下重复。在测试的状态上，边界 K/V 缓存是发散轨迹的因果充分载体，而数值精度则调节其行为表达。