论文
LLM 可以约束到过去吗?通过基于回忆的提示改善知识截止
Can LLMs Be Constrained to the Past? Improving Knowledge Cutoff through Recall-Based Prompting
摘要
提示知识截止指示 大语言模型 (LLM) 采取行动,就好像超过指定截止日期的信息不可用一样。然而,先前的工作主要依赖于直接答案生成,当没有明确查询后截止知识而仅与问题因果相关时,直接答案生成会遇到困难。为了解决这个限制,我们提出了两种基于回忆的提示策略:自我回忆(SR),它要求模型重申其截止约束;问题回忆(QR),它要求模型回忆在截止下有效的问题相关信息。在三个现有基准中,我们的方法优于直接答案提示和传统的逐步推理基准,尤其是在反事实问题上有显着的改进。为了研究不同截止设置的稳健性,我们进一步构建了多截止历史事件基准(MHEB),该基准在多个截止年份下评估同一问题。结果表明,知识截止性能随截止距离而变化,而将 SR 和 QR 结合起来始终能产生最佳性能。