论文

GitSwarm:去中心化复合推理

GitSwarm: Decentralized Compounding Inference

智能体系统Agent 协作

摘要

长期问题的解决和科学研究需要计算在连续的尝试中积累。部分解决方案、实验结果和不成功的方法可以为以后的工作提供信息,但大多数推理时计算是围绕单个轨迹或候选者组织的,而不是围绕可重用工作的持久主体进行组织。我们将这种范式称为复合推理:组织推理时计算,以便中间工作持续存在,并可以通过后续计算进行检查、扩展、组合或挑战。我们在 GitSwarm 中实例化复合推理,这是一个异步系统,其中同类智能体独立决定如何推进任务,同时通过结构化持久记忆进行协作。 智能体在共享的、可分支的 Git 存储库中探索、实验、验证、完善和综合以前的工作。原子提交保留中间工件,而显式语义依赖关系记录后续贡献如何构建跨分支的工作。我们在长期问题解决和持续的 GPU 支持的实验研究方面评估了 GitSwarm。在 IMOProofBench-Advanced 上,GitSwarm 使用 GPT-5.5 在一次运行中解决了所有 30 个问题。在 ProgramBench 上,它的平均得分为 $79.4\%$,而在规定预算下报告的最强基线则为 $65.1\%$。在三个神经架构研究任务(Residual Matrix Transformer、Looped Transformer、NanoChat)中,GitSwarm 通过连续的实验改进了起始架构。除了最终性能之外,我们还衡量计算是否累积:在 ProgramBench 上,随后构建了贡献的 $94.7\%$,而所选解决方案的祖先覆盖了贡献图的 $82-93\%$。这些结果表明,推理时计算可以在其他独立的情节中累积,形成后续推理可以重用的不断发展的工作主体。