论文
世界模型应该遗忘什么?持续适应的分层保留
What Should World Models Forget? Stratified Retention for Continual Adaptation
摘要
持续学习把在旧数据上的退化当作失败的证据——这一惯例承自预测目标平稳的设定:正确标签永远正确。世界模型不满足该条件:其预测目标是会变化的环境,获取时准确的知识日后可能变假,丢弃它是要求的行为而非缺陷。非平稳真值在概念漂移文献与语言模型时间事实性中已被充分研究,但尚未为世界模型形式化——世界模型的独特之处在于它还编码永远不可修订的知识。我们主张:持续世界模型需要按不变性时标分层的保留——把物理与物体持久性等必须永不修订的不变量,与环境一变就应修订的实例级事实分开。标准遗忘度量无法区分正确修订过时知识的世界模型与遭受灾难性遗忘者,因此把冻结模型排得最高;而既有物理推理基准只评估冻结检查点。我们提出差分保留:在适配流上联合报告不变量回归测试与修订延迟,不做聚合。