Evolve：小语言模型的持久知识生命周期

Evolve 将小型本地语言模型与持久的、教师编译的知识存储配对（通过睡眠巩固和使用驱动的刷新进行完善），以在模型的参数基线上提供显着的准确性提升，同时通过交叉查询知识重用来摊销教师成本。 Evolve 不是在查询时检索文档片段，而是构建了由教师模型在自然概念边界编译的语义连贯部分的存储；新的部分在获取时上演，通过教师介导的合并离线整合，并在过期时在线刷新。 2B 参数局部模型处理分类和生成；仅在知识操作时调用大型教师模型。在涵盖自定义专业问题、NaturalQuestions 和 TriviaQA 的 750 个基准查询中，Evolve 增强的 2B 模型将基线准确率从 20-33% 提高到 60-84% (+40-52pp)，同时通过重用将教师调用次数减少了 50% 以上。后整合将三个独立基准的知识存储压缩了 31-33.5%，同时保持了准确性；在每个生命周期条件下，基于部分的检索比基于块的检索高出 5-9 个百分点。该架构在同一生命周期内支持两种生成模式——抑制（严格的仅以指定章节为依据、可审计）和增强（部分补充响应）。