探测提示 KV 缓存：它在哪里变得可有可无

先前的 KV 缓存压缩方案根据经验证明，提示缓存在解码、丢弃或汇总条目期间是部分冗余的，而准确性损失很小。我们问什么时候、什么样的冗余：在哪些层、经过多少解码步骤、以什么形式可以在不破坏任务的情况下替换提示跨度 KV 缓存。受控的拼接干预席卷了层截止和解码步骤，表明这种冗余是关于形式（聊天模板脚手架）而不是内容。将上层提示跨度 KV 缓存替换为来自用户内容为中性填充物的聊天模板支架的 KV 缓存，可以恢复接近干净的精度，而将相同的槽清零会破坏精度。这种解离在多个数据集上的 Qwen3、Gemma 3 和 Llama 3 家族中复制。