SemPIC：学习语义位置无关的KV缓存

长上下文检索与智能体工作负载会在指令、历史和文档顺序变化的情况下反复重用相同的文档。前缀缓存无法利用这种重用，而位置无关缓存（PIC）仍不可靠，因为独立编译的KV状态缺少它们将被消费的未来上下文。我们的诊断表明，一个学习的、以边界为条件的基线能显著减少可重用块边界附近的注意力偏差，但在内部位置和任务层面仍留下残差，这促使我们对文档表示本身进行适配。我们提出SemPIC，它训练一个启用LoRA的Writer，通过行为蒸馏编译原生的逐层文档KV，同时保留预训练解码器作为不变的Reader。适配被限制在离线缓存构建阶段，从而保留了标准的KV接口与缓存命中解码路径。我们进一步引入KV梯度检查点（KV Gradient Checkpointing），在不切断通过缓存KV的梯度的情况下降低峰值训练内存。在三个模型和四个任务上，SemPIC将平均micro-F1从KV Packet的0.53提升到0.60，接近完整重计算（Full Recompute）的0.62。代码：https://github.com/jn12-29/SemPIC