论文

EVAF:选择性参数合并的测试再测试协议

EVAF: A Test-Retest Protocol for Selective Parametric Consolidation

模型训练持续学习

摘要

长时间运行的语言智能体需要机制来决定在工作环境消失后哪些体验应该持续存在。检索系统可以重新插入过去的文本,但它们本身并不表明经验已被选择性地整合到模型自身的行为中。我们介绍了 EVAF,一种用于门控 LoRA 合并的回波价吸引子场机制,以及用于在受控干扰下测量选择性参数合并的重测协议。在 GPT-2 和 TinyLlama 中,EVAF 优先整合高效价、高惊喜体验,同时通过互补的路由记忆路径保留可检索访问的事实记忆。重测测量显示,与冻结、仅检索和非门控持续更新基线相比,干扰后行为持久性更强,同时保持参数漂移和跨角色污染较低。结果支持内存访问和内存深度之间的分离:检索事实和内化经验是不同的计算操作。