论文
PRISM Edit:所有时间答案的一个向量
PRISM Edit: One Vector for All Temporal Answers
摘要
模型编辑无需重新训练即可使 大语言模型 (LLM) 保持最新状态,但时间事实暴露了流行的定位和编辑范式的局限性:更新并不总是替代。当事实发生变化时,新的答案应该成为当前的,而旧的答案可能在历史时间背景下保持正确。基于这一见解,我们使用因果追踪来表明 LLM 已经通过两阶段内部计算支持这种区别:早期的 MLP 层检索与时间无关的主题表示,后面的层使用时间上下文对其进行调制,以产生时间正确的答案。受这一发现的启发,我们引入了 PRISM Edit,它可以跨时间上下文优化单个多义表示,并利用模型的固有调制路径将其路由到时间正确的预测,而不需要任何架构修改。我们对新引入的时间编辑基准 TimeConflict 和时间增强的 CounterFact 进行评估。 PRISM Edit 在最佳基线上改进了多个核心指标,最显着的是 LLaMA-3 上的 +23.3 时间一致性 (TC) 和 +33.7 当前相对时间得分 (CRS),同时速度提高了 2 倍以上。代码和数据可在 https://github.com/CheerCHang/PRISM-Edit 上公开获取。