论文
从执行到能力:通过程序性知识合成实现科学经验固化
From Execution to Capability: Scientific Experience Consolidation via Procedural Knowledge Synthesis
摘要
大语言模型越来越多地能够解决科学计算任务,但来自某个问题的可执行反馈很少能转化为在后续问题上的持久能力。我们研究科学计算经验固化:将经过验证的运行时经验转化为可迁移的程序性知识和持续的模型改进。这一设定带来两个挑战:从轨迹中导出的产物可能编码的是针对特定源问题的修复,而非跨任务的计算机制;并且较弱的目标模型可能无法将本身有效的抽象程序付诸执行——即抽象-执行鸿沟。我们提出SciConsolidate,它通过对比经验证的成功与失败案例来归纳跨任务程序,通过开发-验证门控对其进行筛选,并利用失败信息驱动、无需答案的查询合成来扩充固化数据,而不需要预先存在的参考答案。由于目标模型可能无法直接执行这些抽象,一个更强的模型会将它们具体化为可执行代码监督,用于标准的、无程序的SFT;一个与之匹配的无程序教师分支则用于分离出程序性指导的价值。在SciCode上,运行时程序注入使Qwen3.6-27B提升了+3.85/+6.26的子步骤/主问题分数,但对Qwen3.5-9B几乎不产生聚合的主问题增益,为抽象-执行鸿沟提供了操作性证据。经过程序引导的具体化之后,9B学生在无程序部署下比无程序SFT对照组提升+3.89/+6.25分,比原始9B模型提升+5.62/+11.25分。这些结果为科学计算建立了一条从经验到能力的路径,并为扩展自我改进的科学辅助提供了实用的起点。
