TwinKV：通过成对密钥冗余进行 KV 缓存驱逐的可组合修复通道

在知道下一个问题之前压缩键值缓存需要在不知道哪些证据重要的情况下选择保留哪些内容。价值能量衡量进入强度，但不区分孤立的键和具有许多相似邻居的键。我们引入了 TwinKV，一种 无需训练 方法，通过非本地 RoPE 后关键频率来折扣价值能量。前缀注意力分配头容量，而保留条目在精确的存储预算下保留其原始键和值。在四种语言模型中，TwinKV 在 LongBench、LooGLE 和 RULER 上去除 50% KV 时的平均得分超过了五个评估的压缩基线。组件控制隔离频率贡献。在 Llama-3.2-1B RULER 上，去除率为 75% 时，归一化频率权重平均为 0.95，但改变了 7% 的非保护保留位置，并且在统一容量和适应容量下将仅值保留提高了约 5.5 个点。排列头部内的权重会削弱这种增益。这些结果表明，适度的频率修正可以改变记忆力和回答结果，其效果取决于模型和任务。