论文
MetaRSI / RSI2:一种用于递归自我改进系统本身的元递归自我改进系统
MetaRSI / RSI2: A Meta-Recursive Self-Improving System for Recursive Self-Improving Systems Themselves
摘要
递归自我改进(RSI)让系统能够从自身的故障中改进模型构建机制,因此每个后续模型都会继承收益。然而,RSI 几乎完全在编码和正式基准(例如科学 QA 和数学)上得到验证。这种格式限制了 RSI 在机器可检查的范围内的改进,而不是问题开放且正确性通过论证、复制或测量来解决的一般能力。我们认为,RSI 接下来必须在真实、多样化的科学、工程和元科学领域运作,而不是仅仅在形式评估易于处理的领域进行运作。为此,我们提出了 MetaRSI-v1,其中改进是在一个统一范例上安排三个类型运算符的组合。 Data-RSI 增强了现有能力并标记了其边界; Harness-RSI 在不接触重物的情况下编辑五槽脚手架; Model-RSI 通过有界训练将能力内化为参数。它们共享一个循环内核和工件词汇表,使数据、支架和模型更改可组合而不是排他。两轴优化器共同决定算子顺序和每个算子的提议策略,而元级策略则修改跨术语的调度。我们在代码和封闭式科学领域的标准评估下验证 MetaRSI-v1,无需外部教师:目标模型在自己的循环中发挥每个作用。 MetaRSI-v1 将自我改进从单一表面编辑重新构建为整个模型生产流程中的组合,开辟了两条路径:通过训练将能力内化的模型路线,以及保持权重不变的利用路线,从而将自我改进扩展到通过接口可到达的任何模型,并将 Data-RSI 重新定义为为两者提供资源的共享基质。该框架进一步产生了关于循环存在的位置、运营商如何组成以及监管购买什么的可反驳的法律。