中止但没有被遗忘：KV 缓存保留破坏了语言代理中的回滚一致性

有状态语言代理假设被拒绝的分支可以通过从应用程序记录中清除来收回。当服务会话在逻辑中止期间保留键/值 (KV) 状态时，我们展示了这种中断：模型可以继续处理应用程序认为它丢弃的内容。我们将缺失的保证形式化为回滚一致性：完全中止必须恢复模型所处的状态，而不仅仅是转录本。关键的失败是跨层的：正确的逻辑回滚不需要与保留的推理状态组合，并且间隙对于应用程序来说是不可见的。为了将缓存效果与文本效果隔离开来，我们引入了相同词元/不同缓存审核，该审核保持决策步骤词元相同，同时仅改变缓存前缀是否过时或从提交状态重建。在七个开放权重系列 (3.8B-36B) 中，单独保留的 KV 在 63 个审计单元中的 25 个单元中翻转了类型化保护效果，而攻击者词元在所有 63 个所服务的请求中都不存在；重建缓存会关闭每个单元。该通道在端到端会话应用程序中、在默认的 Hugging Face Transformer 缓存重用路径上以及 LangGraph 时间旅行下进行复制，其中经过验证的逻辑回滚仍然可以使参与的 KV 过时。不同模型的敏感性各不相同，但潜在的参与状态完整性违规是结构性的。我们排除了位置和长度混淆，概括了受保护的效果、策略结构和缓存隔离的专家混合模型，并表明事务本地缓存恢复无需全局缓存刷新即可关闭通道。所有主要结果都是确定性的，并且可以从已发布的工件中重现。